Декількома словами
Адміністрація Трампа видала указ, який вимагає від техкомпаній довести, що їхні ШІ-чат-боти не є "прогресивними" (woke), перш ніж вони зможуть отримати державні контракти. Цей крок, спрямований на забезпечення ідеологічної нейтральності ШІ, викликав звинувачення в цензурі та порівняння з державною політикою Китаю, ставлячи провідних розробників ШІ у скрутне становище.
Технологічні компанії, які бажають продавати свої розробки у сфері штучного інтелекту федеральному уряду США, зіткнулися з новою регуляторною перешкодою: вони мають довести, що їхні чат-боти не є "прогресивними" (woke).
Новий план президента Дональда Трампа, спрямований на протидію Китаю у досягненні "глобального домінування" в галузі ШІ, обіцяє скоротити регулювання та закріпити американські цінності в інструментах штучного інтелекту. Проте підписаний указ про "запобігання woke ШІ у федеральному уряді" багато в чому нагадує державний підхід Китаю до формування поведінки ШІ-систем відповідно до державної ідеології.
Провідні розробники мовних моделей, на яких націлений указ, — такі як Gemini від Google та Copilot від Microsoft — наразі утримуються від коментарів. Хоча технологічна індустрія загалом схвально поставилася до ширших планів Трампа щодо ШІ, цей конкретний наказ втягує її у культурну війну.
Цей крок змушує технологічну галузь відмовитися від багаторічних зусиль у боротьбі з упередженістю, яка, як доводять дослідження, інтегрована в системи ШІ. "По-перше, не існує такого поняття, як woke ШІ, — заявила правозахисниця Алехандра Монтойя-Бойєр. — Існує технологія ШІ, яка дискримінує, і є технологія ШІ, яка працює для всіх людей".
Моделювання поведінки великих мовних моделей є складним завданням, оскільки вони навчаються на величезних масивах даних з інтернету, що відображають усі упередження людства. "Технологічним компаніям буде надзвичайно складно виконати цю вимогу", — вважає Джим Секрето, колишній чиновник адміністрації Байдена.
Указ Трампа спрямований проти спроб компаній інтегрувати в ШІ "деструктивну" ідеологію різноманітності, справедливості та інклюзивності (DEI), включаючи "критичну расову теорію, трансгендеризм та системний расизм". Критики, зокрема Секрето, порівнюють цей підхід з методами Китаю, який "використовує владу держави для викорінення невигідних поглядів". На відміну від прямої цензури в КНР, указ Трампа використовує федеральні контракти як важіль тиску, що спонукає компанії до самоцензури.
Заклик до створення "ШІ, що шукає істину" перегукується з риторикою Ілона Маска та його чат-бота Grok. Однак деякі експерти, як-от колишній головний технолог Федеральної торгової комісії Ніл Чілсон, вважають, що указ нескладно виконати. "Він навіть не забороняє ідеологічну програму, — каже Чілсон, — а лише вимагає розкриття будь-яких навмисних методів впливу на модель. Це, відверто кажучи, досить м'який підхід".
Наразі технологічні гіганти реагують обережно. OpenAI чекає на додаткові роз'яснення, а Microsoft відмовилася від коментарів. Ідеї, що лягли в основу указу, понад рік просувалися впливовими венчурними капіталістами з Кремнієвої долини, незадоволеними інцидентом з Google Gemini у лютому 2024 року. Тоді інструмент для генерації зображень створив історично неточні картинки, наприклад, темношкірих Батьків-засновників США, що було пояснено надмірною компенсацією системних упереджень.
