Нещодавні дослідження у сфері штучного інтелекту демонструють значний прогрес у створенні більш ефективних та компактних великих мовних моделей (ВММ). Інженери та науковці активно працюють над методами квантування, дистиляції знань та оптимізації архітектури, що дозволяє запускати потужні моделі на пристроях з обмеженими ресурсами. Це відкриває нові можливості для периферійних обчислень та підвищення доступності технологій ШІ.