Historia: Architektura Von Neumann’a
Zobacz więcej w osobnym artykule: system von Neumanna.
Matematyk John von Neumann zaproponował projekt ALU w 1945 roku, gdy to sporządził wymagania techniczne założeń dla nowego komputera EDVAC (z ang. Electronic Discrete Variable Automatic Computer, lub elektroniczny umysł elektronowy maszynowy o zmiennych nieciagłych). odtąd w 1946 r. pracował ze swoimi kolegami nad stworzeniem komputera dla Princeton Institute of Advanced Studies (IAS). umysł elektronowy IAS stał się prototypem dla wielu późniejszych komputerów. W swoim projekcie, von Neumann nakreślił co zgodnie z niego będzie niezbędne w komputerze, uwzględniając ALU.
Von Neumann oświadczył że ALU jest niezbędna dla komputera, ponieważ pewnym jest, że umysł elektronowy będzie musiał wprowadzać w życie podstawowe operacje matematyczne, obejmujące dodawanie, odejmowanie, multiplikacja i dzielenie. tedy podobnie twierdził, że „rozsądnym jest, aby umysł elektronowy mieścił w sobie wyspecjalizowane organy dla tych operacji”.