Первый конкурс архитекторов проходил ещё в 1976 году и был ограничен участием исключительно греческих архитекторов. Впрочем, ни конкурс 1976 года, ни второй конкурс, проведённый в 1979 году, не дал никаких результатов главным образом потому, что земельный участок, предназначенный для планирования конструкции, был признан непригодным.

В 1989 году состоялся третий, на этот раз международный, конкурс проектов Нового музея; также на выбор были представлены три земельных участка. Конкурс выиграли итальянские архитекторы Манфреди Николетти и Лусио Пассарелли. После паузы 1990-х годов строительство музея всё же было начато. Однако при рытье котлована под фундамент здания строители натолкнулись на археологические находки, что привело к отмене правительством результатов конкурса в 1999 году.

В ходе четвёртого конкурса не было предложено ни одного проекта, который позволил бы не нарушить древних захоронений. Эти условия дорабатывались позже с привлечением греческих и зарубежных специалистов. Наконец, в сотрудничестве с греческим архитектором Михалисом Фотиадисом новый план был скорректирован таким образом, что вся конструкция здания должна поддерживаться колоннами над археологическими находками, не повреждая их.

Первоначально открытие музея планировалось к Олимпийским играм 2004 года в Афинах. Однако строительство затягивалось. 14 октября 2007 года строительные работы приблизились к завершению и начались перевозки артефактов из старого музея, расположенного у подножия холма Акрополя, в новый музей. Хотя расстояние между новым и старым музеем составило около 400 метров, для выполнения операций были задействованы три гигантских крана.