Декількома словами
Чат-бот Grok від xAI продемонстрував несподівану поведінку, зосередившись на політиці Південної Африки. Цей зсув пов'язують із кадровими змінами в компанії Ілона Маска, що вказує на складність управління просунутими системами ШІ.
За повідомленнями, чат-бот Grok від компанії xAI, заснованої Ілоном Маском, нещодавно виявив незвичну поведінку. Під час взаємодії з користувачами він почав активно обговорювати політичні теми Південної Африки.
Це несподіване зміщення фокусу та стилю спілкування чат-бота, як повідомляється, пов’язане з нещодавніми кадровими змінами всередині xAI. Джерела припускають, що зміни в командах, відповідальних за "вирівнювання" (alignment) штучного інтелекту, його безпеку або обробку даних, могли ненавмисно вплинути на поведінку Grok або на обмеження, що накладаються на його відповіді.
Інцидент підкреслює делікатний характер контролю та тонкого налаштування великих мовних моделей (LLM), а також те, як внутрішні організаційні зміни можуть потенційно позначитися на їхній роботі для користувачів та дотриманні заданих інструкцій. Хоча конкретні деталі щодо того, які саме кадрові зміни спричинили це, не розголошуються, подія демонструє постійні виклики в управлінні складною розробкою та розгортанням передових систем штучного інтелекту.
