Этот сквер был разбит в 1932 году. До революции 1917 года там находилась Ярмарочная площадь, на месте которой после получения Новосибирском статуса административного центра было решено устроить сквер. Проект благоустройства этой территории и ее озеленения выполнен архитектором В. М. Тейтелем.
В 1935 году он же добавил в композицию фонтаны, обрамлённые вазами и цветочными клумбами. С тех пор развитие сквера не стояло на месте. В нём постоянно высаживались новые деревья, разбивались цветники, добавлялись скульптуры. Сейчас здесь можно увидеть два фонтана: главный, расположенный у выхода на Красный проспект, и небольшой, задуманный для детей, в котором установлена скульптура медвежонка.
С ежегодного городского симпозиума каменных скульптур скверу были переданы три работы участников, сделанные из мрамора: «Король и королева», «Мир» и «Любовь». А в 2000 году открыт хачкар – монумент из розового туфа, подаренный армянской общиной. Его архитектором является новосибирский скульптор Арам Григорян.
Есть в парке и дерево желаний, на которое привязывают ленточки, чтобы загаданное сбылось. Летом на лужайках сквера можно увидеть поклонников здорового образа жизни, занимающихся гимнастикой, а зимой – участников Сибирского фестиваля снежной скульптуры, традиционно проводимого там с 2000 года.
Неподалёку от Первомайского сквера находится Новосибирский краеведческий музей, который является памятником архитектуры.