Технологічна індустрія знову швидко розвивається та руйнує старі правила — і цього разу під загрозою опинилася спільна реальність людства та контроль над нашим образом до і після смерті — завдяки платформам для генерації зображень за допомогою штучного інтелекту.

Типове відео Sora, створене в додатку OpenAI та поширене на TikTok, Instagram, X і Facebook, розроблене так, щоб бути достатньо кумедним для натискання та поширення. Це може бути Королева Єлизавета II, яка читає реп, або щось більш звичайне та правдоподібне. Один із популярних жанрів Sora — це фальшиві кадри з дверних камер, що фіксують щось трохи моторошне — скажімо, удав на ганку або алігатор, що наближається до байдужої дитини — і закінчується легким шоком, наприклад, криком бабусі, яка б'є тварину мітлою.

Але зростаюча кількість правозахисних груп, науковців та експертів б'ють на сполох щодо небезпеки дозволу людям створювати ШІ-відео практично про все, що вони можуть ввести в текстовий запит, що призводить до поширення зображень без згоди та реалістичних діпфейків у морі менш шкідливого «ШІ-сміття». OpenAI вжила заходів проти ШІ-творінь публічних діячів — серед них Майкл Джексон, Мартін Лютер Кінг-молодший та Містер Роджерс — які роблять дивні речі, але лише після обурення з боку родичів та акторського профспілки.

Некомерційна організація Public Citizen тепер вимагає від OpenAI відкликати Sora 2 з публічного доступу, написавши у вівторок листа компанії та генеральному директору Сему Альтману, що поспішний випуск програми, щоб випередити конкурентів, свідчить про «послідовну та небезпечну схему поспішного випуску OpenAI на ринок продукту, який є або за своєю суттю небезпечним, або не має необхідних запобіжників». У листі зазначається, що Sora 2 демонструє «безрозсудне нехтування» безпекою продукту, а також правами людей на власну подобу та стабільністю демократії. Група також надіслала листа до Конгресу США.

OpenAI не відповіла на запити про коментарі у вівторок.

„Наша найбільша стурбованість — це потенційна загроза демократії, — заявив в інтерв'ю Дж.Б. Бранч, адвокат з питань технологічної політики Public Citizen. — Я думаю, ми вступаємо у світ, де люди не можуть по-справжньому довіряти тому, що бачать. І ми починаємо бачити стратегії в політиці, коли перше зображення, перше відео, яке випускається, — це те, що люди пам'ятають”.

Бранч, автор листа від вівторка, також бачить ширші занепокоєння щодо конфіденційності людей, які непропорційно впливають на вразливі верстви населення в Інтернеті. OpenAI блокує оголеність, але Бранч сказав, що «жінки бачать, як їх переслідують в Інтернеті» іншими способами, наприклад, за допомогою фетишизованого нішевого контенту, який проходить через обмеження додатків. Новинне видання повідомило про потік створених за допомогою Sora відео, на яких жінок душили.

OpenAI представила свій новий додаток Sora на iPhone більше місяця тому. Минулого тижня він був запущений на телефонах Android у США, Канаді та кількох азіатських країнах, включаючи Японію та Південну Корею.

Найбільший опір виник з боку Голлівуду та інших розважальних інтересів, включаючи японську індустрію манги. OpenAI оголосила про свої перші великі зміни лише через кілька днів після випуску, заявивши, що «надмірна модерація надзвичайно розчаровує» користувачів, але важливо бути консервативним, «поки світ все ще пристосовується до цієї нової технології».

За цим послідували публічно оголошені угоди з родиною Мартіна Лютера Кінга-молодшого 16 жовтня, що запобігають «нешанобливим зображенням» лідера руху за громадянські права, поки компанія працювала над покращенням заходів безпеки, та ще одна 20 жовтня з актором «Пуститися берега» Брайаном Кренстоном, профспілкою SAG-AFTRA та талант-агентствами.

„Це все добре і красиво, якщо ви знамениті, — сказав Бранч. — Це просто модель поведінки OpenAI, коли вони готові реагувати на обурення дуже невеликої частини населення. Вони готові випустити щось і вибачитися згодом. Але багато з цих проблем — це дизайнерські рішення, які вони можуть прийняти до випуску”.

OpenAI стикалася з подібними скаргами на свій флагманський продукт, ChatGPT. Минулого тижня в судах Каліфорнії були подані позови, в яких стверджується, що чат-бот та шкідливі ілюзії спричиняли проблеми з психічним здоров'ям, навіть якщо у них не було жодних попередніх проблем з психічним здоров'ям. Позови, подані від імені шести дорослих та одного підлітка Центром правової допомоги жертвам соціальних медіа та Проектом правосуддя в сфері технологій, стверджують, що OpenAI свідомо випустила GPT-4o передчасно минулого року, незважаючи на внутрішні попередження про те, що він був небезпечно підлесливим та психологічно маніпулятивним. Четверо жертв померли від самогубства.

Public Citizen не брала участі в судових процесах, але Бранч сказав, що бачить паралелі в поспішному випуску Sora.

Він сказав, що вони «тиснуть на газ, незважаючи на шкоду. Велика частина цього здається передбачуваною. Але вони вважають за краще випустити продукт, щоб люди завантажували його, щоб люди стали залежними від нього, замість того, щоб вчинити правильно і заздалегідь провести стрес-тестування цих речей і турбуватися про скрутне становище звичайних користувачів».

Минулого тижня OpenAI відповідала на скарги японської торговельної асоціації, що представляє відомих аніматорів та розробників відеоігор, таких як Bandai Namco та Square Enix. OpenAI заявила, що багато фанатів аніме хочуть взаємодіяти зі своїми улюбленими персонажами, але компанія також встановила запобіжники, щоб запобігти генерації відомих персонажів без згоди власників авторських прав.

„Ми безпосередньо взаємодіємо зі студіями та правовласниками, прислухаємося до відгуків і вчимося тому, як люди використовують Sora 2, зокрема в Японії, де культурні та творчі індустрії глибоко цінуються”, — йдеться в заяві OpenAI щодо листа торговельної групи минулого тижня.