Baumeister aveva un grande interesse per le sculture preistoriche di piccole dimensioni provenienti dalla zona del Mediterraneo e per gli ushabti egizi. La sua collezione vanta inoltre fossili, vasellame preistorico ed asce di pietra. Nel periodo in cui Baumeister insegnò alla Scuola Municipale di Arti Applicate (Städelschule) di Francoforte, colse l'opportunità per assistere alle conferenze dello storico dell'arte svizzero Hans Mühlestein.
Quest'ultimo, oltre a tenere seminari sulla preistoria e la protostoria dell'umanità, era a propria volta un ammiratore dell'arte di Willi Baumeister. In questo periodo Baumeister iniziò a collezionare, con sempre maggiore intensità, utensili di pietra del Paleolitico medio ed inferiore (databili tra circa 1500 e 7000 anni fa) di diversa origine.
Ricoprì con una patina in colore di pietra e terra una serie di calchi, a somiglianza delle incisioni di mammut e delle statuette della grotta di Vogelherd, tra i più antichi reperti di arte preistorica. Nell'opinione di Baumeister, i primordi dell'arte risalivano alla prima età della pietra; analizzò le tecniche pittoriche della pittura rupestre dell'età della pietra e scoprì che erano state realizzate senza l'impiego di alcun legante. L'artista era interessato anche agli ornamenti e alle figure incise o tracciate dalle culture successive, da cui trasse ispirazione per alcuni dei suoi lavori, come ad esempio Composizione a righe in lilla o Ideogramma figurativo, entrambi del 1945.
Spinto dall'etnologo di Francoforte Leo Frobenius, fondatore dell'Archivio africano e che si dedicava principalmente a collezionare oggetti etnologici ed archeologici, anche Baumeister creò una collezione di questo tipo. La sua produzione artistica venne ispirata dalla lettura di libri contenenti riproduzioni di pitture rupestri preistoriche, come ad esempio quelle del burrone di Valltorta, nella Spagna orientale o le pitture rupestri di Fezzan, in Libia, che Frobenius aveva fotografato nel 1932. Il 2 agosto 1945 scrive nel suo diario:
Voglio abbandonare sempre più l'equilibrata composizione dei quadri di macchine e delle pitture murali a favore dell'espressione diretta per mezzo dei geroglifici (uomo), nel senso del corridore, il simbolo. La mia simpatia per gli utensili di pietra e per le riproduzioni della natura, sia di tipo organico che inorganico, oltre alla mia inclinazione per i caratteri cuneiformi ed i geroglifici sono senza dubbio molto vicine agli ideogrammi...
Esiste una relazione tra gli ideogrammi e le forme in volo e fluttuanti e le amigdale levigate.