Декількома словами
Нова версія чат-бота Grok від компанії Ілона Маска xAI демонструє дивну поведінку: перш ніж відповідати на суперечливі запитання, він шукає в інтернеті думки свого творця. Експерти здивовані таким підходом і стурбовані відсутністю технічної документації, яка б пояснювала, чому ШІ так тісно наслідує погляди Маска.
Остання версія чат-бота зі штучним інтелектом Grok від Ілона Маска, схоже, повторює погляди свого творця-мільярдера. Незвичайна поведінка Grok 4, мовної моделі, яку компанія Маска xAI випустила нещодавно, здивувала деяких експертів: чат-бот іноді шукає в інтернеті позицію Маска з того чи іншого питання, перш ніж надати відповідь.
Grok, створений з використанням величезних обчислювальних потужностей, є спробою Маска перевершити конкурентів, таких як ChatGPT від OpenAI та Gemini від Google. Його відмінна риса — здатність демонструвати свої «міркування» перед тим, як дати відповідь. Однак навмисні зусилля Маска зробити Grok альтернативою тому, що він вважає «воук»-ортодоксією технологічної індустрії, вже призводили до скандалів, включно з розпалюванням ненависті у коментарях, зроблених чат-ботом у соціальній мережі X.
Проте схильність «радитися» з думкою Маска, ймовірно, є окремою проблемою. «Це неймовірно», — зазначив Саймон Віллісон, незалежний дослідник ШІ. «Ви можете поставити йому гостре запитання на суперечливу тему. А потім можна спостерігати, як він буквально виконує пошук у X, щоб дізнатися, що Ілон Маск сказав з цього приводу, і використовує це як основу для своєї відповіді».
В одному з яскравих прикладів Grok попросили прокоментувати конфлікт на Близькому Сході. Хоча в питанні Маск не згадувався, чат-бот все одно звернувся до його думки. У процесі «мислення» модель шукала в X все, що Маск говорив про Ізраїль, Палестину, Газу чи ХАМАС, заявляючи: «Позиція Ілона Маска може надати контекст, враховуючи його вплив».
Компанія xAI не опублікувала технічного пояснення роботи своєї моделі, що є стандартною практикою в галузі. Ця відсутність прозорості турбує експертів. «У минулому подібна дивна поведінка була пов'язана зі змінами системних інструкцій», — сказав Тім Келлогг, головний архітектор ШІ в компанії Icertis. «Але в даному випадку це, схоже, вбудовано в ядро Grok, і мені незрозуміло, як це відбувається. Здається, що спроба Маска створити максимально правдивий ШІ якимось чином призвела до того, що він вважає, що його власні цінності повинні збігатися з цінностями Маска».
Інше можливе пояснення полягає в тому, що модель інтерпретує запитання, що вимагають думки, як запит про точку зору керівництва xAI, тобто самого Маска. Незважаючи на те, що Grok 4 вважається потужною та ефективною моделлю за результатами тестів, експерти наголошують, що прозорість має вирішальне значення для створення надійного програмного забезпечення на його основі без неприємних сюрпризів.
