Чтобы выставить ограничение на количество позиций в заказе, нужно зайти в файл конфигурации config.ini, который находиться в корне сайта и изменить количество в опции:

; Максимальное количество наименований товаров в одном заказе
MAX_COUNT_CART = 50