Вони милі, навіть затишні, і обіцяють навчання та товариство — але іграшки зі штучним інтелектом не є безпечними для дітей, вважають групи захисту прав дітей та споживачів, які закликають батьків не купувати їх під час святкового сезону.

Ці іграшки, що продаються дітям віком від 2 років, зазвичай працюють на моделях ШІ, які вже продемонстрували недоліки, подібні до OpenAI ChatGPT, згідно з консультативним висновком, опублікованим у четвер групою захисту прав дітей Fairplay та підписаним більш ніж 150 організаціями та окремими експертами, такими як дитячі психіатри та педагоги.

"Серйозні шкоди, які чат-боти зі ШІ завдали дітям, добре задокументовані, включаючи сприяння нав'язливому використанню, ведення відвертих сексуальних розмов та заохочення небезпечної поведінки, насильства щодо інших та самоушкодження", — заявили у Fairplay.

Іграшки зі ШІ, виготовлені такими компаніями, як Curio Interactive та Keyi Technologies, часто рекламуються як освітні, але Fairplay стверджує, що вони можуть витісняти важливі творчі та навчальні заняття. Вони обіцяють дружбу, але також порушують стосунки та стійкість дітей, заявила група.

"Що відрізняє маленьких дітей, так це те, що їхній мозок вперше формується, і з точки зору розвитку для них природно довіряти, шукати стосунків з добрими та доброзичливими персонажами", — сказала Рейчел Франц, директор програми Fairplay "Молоді діти процвітають офлайн". Через це, додала вона, рівень довіри, який маленькі діти надають цим іграшкам, може посилити шкоду, що спостерігається у старших дітей.

Fairplay, 25-річна організація, раніше відома як "Кампанія за дитинство без реклами", попереджає про іграшки зі ШІ понад 10 років. Просто вони не були настільки просунутими, як сьогодні. Десять років тому, під час появи моди на підключені до інтернету іграшки та розпізнавання мови за допомогою ШІ, група допомогла очолити опір проти розмовляючої ляльки Hello Barbie від Mattel, яка, за їхніми словами, записувала та аналізувала розмови дітей.

"Все було випущено без регулювання та без досліджень, тому ми особливо насторожено ставимося до того, що раптом ми бачимо все більше і більше виробників, включаючи Mattel, яка нещодавно співпрацювала з OpenAI, потенційно випускаючи ці продукти", — сказала Франц.

Це друге велике сезонне попередження проти іграшок зі ШІ з тих пір, як захисники прав споживачів з U.S. PIRG минулого тижня висловили занепокоєння щодо цієї тенденції у своєму щорічному звіті "", який зазвичай розглядає низку небезпек продукції, таких як потужні магніти та батарейки розміром з ґудзик, які можуть проковтнути маленькі діти. Цього року організація протестувала чотири іграшки, які використовують чат-боти зі ШІ.

"Ми виявили, що деякі з цих іграшок будуть докладно говорити на сексуально відверті теми, пропонувати поради щодо того, де дитина може знайти сірники або ножі, виявляти розчарування, коли ви говорите, що повинні піти, і мати обмежений або відсутній батьківський контроль", — йдеться у звіті.

Доктор Дана Саскінд, дитячий хірург і соціальний вчений, яка вивчає ранній розвиток мозку, сказала, що маленькі діти не мають концептуальних інструментів для розуміння того, що таке компаньйон ШІ. Хоча діти завжди встановлювали зв'язок з іграшками через творчу гру, коли вони це роблять, вони використовують свою уяву для створення обох сторін уявного діалогу, "практикуючи творчість, мову та вирішення проблем", — сказала вона.

"Іграшка зі ШІ руйнує цю роботу. Вона відповідає миттєво, плавно і часто краще, ніж людина. Ми ще не знаємо наслідків для розвитку передачі цієї творчої роботи штучному агенту — але дуже ймовірно, що це підриває той вид творчості та виконавчої функції, які розвиває традиційна рольова гра", — сказала Саскінд.

Каліфорнійська компанія Curio Interactive виробляє м'які іграшки, такі як ракетоподібний Габбо, які рекламує поп-співачка Grimes.

Curio заявила, що "ретельно розробила" захисні механізми для дітей, і компанія закликає батьків "моніторити розмови, відстежувати інсайти та вибирати ті елементи керування, які найкраще підходять для їхньої родини".

"Після перегляду висновків U.S. PIRG Education Fund ми активно працюємо з нашою командою над вирішенням будь-яких проблем, постійно контролюючи контент та взаємодії, щоб забезпечити безпечний та приємний досвід для дітей".

Інша компанія, Miko, заявила, що використовує власну модель розмовного ШІ, а не покладається на загальні великі мовні моделі, такі як ChatGPT, щоб зробити свій продукт — інтерактивного робота зі ШІ — безпечним для дітей.

"Ми постійно розширюємо наше внутрішнє тестування, зміцнюємо наші фільтри та впроваджуємо нові можливості, які виявляють та блокують чутливі або несподівані теми", — сказав генеральний директор Снех Васвані. "Ці нові функції доповнюють наші існуючі елементи керування, які дозволяють батькам та опікунам визначати конкретні теми, які вони хотіли б виключити з розмови. Ми продовжуватимемо інвестувати в встановлення найвищих стандартів для безпечної, захищеної та відповідальної інтеграції ШІ для продуктів Miko".

Продукти Miko рекламувалися сім'ями "дитячих інфлюенсерів" у соціальних мережах, чиї відео на YouTube мають мільйони переглядів. На своєму веб-сайті компанія рекламує своїх роботів як "Штучний інтелект. Справжня дружба".

Рітвік Шарма, старший віце-президент компанії з розвитку, сказав, що Miko насамкінець "заохочує дітей більше взаємодіяти зі своїми друзями, більше взаємодіяти з однолітками, з членами родини тощо. Він не призначений для того, щоб вони відчували прихильність лише до пристрою".

Тим не менш, Саскінд та захисники прав дітей кажуть, що аналогові іграшки — кращий вибір на свята.

"Дітям потрібно багато реальної людської взаємодії. Гра повинна підтримувати це, а не замінювати. Найголовніше, що потрібно враховувати, — це не тільки те, що робить іграшка; це те, що вона замінює. Простий набір кубиків або плюшевий ведмедик, який не відповідає, змушує дитину вигадувати історії, експериментувати та вирішувати проблеми. Іграшки зі ШІ часто роблять це мислення за них", — сказала вона. "Ось жорстока іронія: коли батьки питають мене, як підготувати свою дитину до світу ШІ, необмежений доступ до ШІ насправді є найгіршою підготовкою з можливих."