Baumeister hatte auch an frühantiken Kleinskulpturen aus dem Mittelmeer und an ägyptischen Uschebtis besonderes Interesse. Es folgen in seiner Sammlung Fossilien, vorzeitliche Gefäße, Steinbeile. In der Zeit, als Baumeister als Professor an der Städtischen Kunstgewerbeschule (Städelschule) in Frankfurt lehrte, nahm er die Möglichkeit wahr, Vorträge des Schweizer Kulturhistorikers Hans Mühlestein zu besuchen. Dieser hielt Seminare zur Ur- und Vorgeschichte der Menschheit und war wiederum ein Verehrer der Kunst Willi Baumeisters. In dieser Zeit begann Baumeister vermehrt, Steingeräte aus dem Mittel- bis Jungpaläolithikum (etwa 1.500 bis 7.000 Jahre alt) verschiedener Herkunft zu sammeln.
Er patinierte eine Reihe von Abgüssen in Stein- und Erdtönen, wie etwa Mammutgravuren und die kleinen Skulpturen aus dem Vogelherd, die zu den ältesten Funden prähistorischer Kunstwerke zählen. Nach Auffassung Baumeisters waren die Ursprünge der Kunst schon in der frühen Steinzeit zu finden. Er erforschte die Maltechniken der steinzeitlichen Fels- und Höhlenmaler und fand heraus, dass die Malereien keine Bindemittel nötig hatten. Die Ornamentik sowie die Ritz- und Linienfiguren der nachfolgenden Kulturen interessierten den Maler. Er ließ sich teilweise von ihnen in seinen eigenen Werken inspirieren, wie etwa in der "Streifenkomposition auf Lila" oder bei " Figürliches Ideogramm", beide von 1945.
Angeregt durch den Ethnologen Leo Frobenius in Frankfurt, Begründer des Afrika-Archivs, das sich hauptsächlich das Sammeln ethnologischer und archäologischer Objekte zur Aufgabe machte, sammelte Baumeister auch in diesem Sinne. Durch das Betrachten von Abbildungen in Büchern der vorzeitlichen Felsbilder, z.B der Valltorta-Schlucht in Ostspanien, wurde Baumeisters Kunst inspiriert. Auch die Felsbilder aus Fezzan in Lybien, die Frobenius 1932 aufgenommen hatte, wirkten auf seine Kunst ein. Am 2. August 1934 schrieb Baumeister in sein Tagebuch:
"Ich will die gut abgewogene Komposition der Maschinen- und Mauerbilder immer mehr verlassen zugunsten eines direkten Ausdrucks durch die Hieroglyphen (Mensch) im Sinne des Läufers, das Zeichen. Meine Sympathie für Steinwerkzeuge und auch für Naturnachbildungen organischer oder anorganischer Art, ebenso meine Neigung zu Keilschriftzeichen und Hieroglyphen liegen wohl nahe den Ideogrammen..."
Eine Verbindung zu den "Ideogrammen", "Fliegenden" und "Schwebenden Formen" besteht bei den glatt-bearbeiteten Faustkeilen.
"Diese Formen schweben, ohne sich zu berühren, aber doch stark aufeinander bezogen in der Fläche. Ich hatte sie ursprünglich völlig abstrakt gemeint, habe aber im weiteren Verlauf Figuren hineingesehen, natürlich frontale."