У США з’явиться незалежна дослідницька лабораторія, яка тестуватиме інструменти штучного інтелекту (ШІ) щодо ризиків для дітей і підлітків. Цей проєкт, відомий як Youth AI Safety Institute, ініційований некомерційною організацією Common Sense Media, яка спеціалізується на рейтингах фільмів, ігор та цифрових платформ.
Інститут працюватиме як незалежна лабораторія та займатиметься «стрес-тестуванням» ШІ-моделей і продуктів, які використовують діти. Його мета — виявляти потенційні ризики, такі як шкідливі поради чатботів, проблеми з приватністю, довірою та безпекою даних.
Дослідники моделюватимуть реальні сценарії використання ШІ дітьми та перевірятимуть їх безпечність. Після тестування інститут публікуватиме рейтинги безпеки, зрозумілі для батьків і шкіл, а також формуватиме стандарти для індустрії.
Ініціативу підтримали великі технологічні компанії та інвестори, проте організатори запевняють, що донори не вплинуть на результати досліджень. До наглядової ради увійшли експерти зі Стенфорда, Мічиганського університету та колишня генеральна хірургиня Каліфорнії.
Бюджет інституту становить 20 мільйонів доларів на рік, фінансування забезпечується за рахунок технологічних компаній та благодійних організацій. Головна мета — запобігти повторенню ситуації із соціальними мережами, де проблеми з впливом на психічне здоров’я дітей виявилися вже після масового поширення платформ.
Запуск інституту відбувається на фоні активних дискусій про безпеку ШІ для дітей, зокрема, про позови родин, які звинувачують чатботи у шкідливих порадах. Експерти зазначають, що ключова проблема полягає в постійному оновленні ШІ, через що ризики можуть змінюватися швидше, ніж встигають їх досліджувати.
