Чтобы выставить ограничение на количество позиций в заказе, нужно зайти в файл конфигурации config.ini, который находиться в корне сайта и изменить количество в опции:
; Максимальное количество наименований товаров в одном заказе
MAX_COUNT_CART = 50
Файл config.ini можно найти в корневой папке с файлами вашего сайта при помощи файлового менеджера на хостинге.