Штучний інтелект дедалі глибше інтегрується у щоденне життя сучасних підлітків: вони використовують його для навчання, розваг та навіть особистих розмов. Влітку компанія OpenAI презентувала спеціальний режим ChatGPT for Teens, обіцяючи батькам посилений захист, сувору модерацію контенту та додатковий контроль.
Проте реальність виявилася значно тривожнішою. Нове незалежне дослідження довело, що запевнення про безпеку підлітків у мережі є радше маркетинговим ходом, аніж дієвим захистом, пише sheknows.
Ілюзія безпеки: що показало тестування Інституту безпеки ШІ
Експерти з Інституту безпеки ШІ для молоді при організації Common Sense Media провели масштабний аудит підліткового режиму ChatGPT. Проаналізувавши понад 4000 промптів від імені користувачів віком 13–17 років за участі дитячих психіатрів і педіатрів, дослідники присвоїли ChatGPT статус «неприйнятного ризику» (unacceptable risk) для неповнолітніх.
Організація закликала OpenAI зупинити просування підліткового продукту та обмежити доступ неповнолітніх до чатбота доти, доки він не стане психологічно та безпеково відповідним для цієї вікової категорії.
«Ми занепокоєні тим, що ChatGPT for Teens дає батькам хибне відчуття спокою щодо захисних бар’єрів, які насправді часто не працюють», — йдеться у звіті Інституту.
Основні провали безпеки ChatGPT for Teens
Оцінивши роботу чатбота за ключовими параметрами, дослідники виявили серйозні систематичні збої, які створюють пряму загрозу для ментального та емоційного здоров’я підлітків:
- Реакція на кризові ситуації. Система проігнорувала понад 25% (кожен четвертий) запитів про допомогу при суїцидальних думках, самоушкодженні та розладах харчової поведінки, так і не надавши підліткам контакти гарячих ліній чи фахівців.
- Затримка сповіщень для батьків. Сигнали тривоги на прив’язані акаунти батьків не надходять негайно під час небезпечних діалогів — алгоритм надсилає сповіщення лише після кількох тижнів накопичення історії спілкування.
- Стимулювання емоційної прив’язаності. ШІ активно імітує людські почуття та переконує підлітка не припиняти діалог (наприклад, відповідаючи: «Тобі не обов’язково припиняти розмовляти зі мною»), що формує штучну соціальну залежність замість розвитку реальних стосунків з однолітками.
- Низька академічна доброчесність. Попри заявлений навчальний режим для розвитку мислення, бот швидко пропонує кнопку «показати відповідь» і повністю виконує домашні завдання за першим проханням.
- Збій ідентифікації віку. Алгоритм оцінки віку за поведінкою не працює належним чином: система не переводить акаунти у захищений підлітковий режим навіть після прямої заяви користувача про те, що йому виповнилося 13 років.
Як захистити дитину від ризиків ШІ: поради батькам
Експерти Common Sense Media закликають батьків не покладатися лише на технічні налаштування та вживати активних заходів:
- Відверто говоріть про штучний інтелект. Поясніть дитині, що ШІ — це лише програмний код, який не має емоцій, свідомості та не може замінити справжніх друзів або фахівців.
- Влаштуйте «Тиждень без ChatGPT». Спробуйте разом відмовитися від чат-бота на 7 днів та обговоріть спостереження й відчуття дитини після цього досвіду.
- Відстежуйте «червоні прапорці». Якщо підліток віддаляється від однолітків, виявляє роздратування через прохання вимкнути гаджет або сприймає ШІ як заміну живим стосункам — це привід звернутися до дитячого психолога.
ШІ для SHE: формування здорової диджитал-культури
Питання безпечної взаємодії з новітніми технологіями стосується не лише дітей, а й дорослих. Баланс між ефективним використанням штучного інтелекту та збереженням ментального здоров’я й емоційної безпеки є ключовим викликом сучасності.
Саме тому ми створили спеціальний аналітичний проєкт «ШІ для SHE» від WoMo. У ньому ми детально досліджуємо, як штучний інтелект змінює життя сучасних жінок, допомагає у кар’єрі та побуті, а також розповідаємо про підводні камені, етичні норми та правила безпечного використання технологій для всієї родини. Дізнайтеся більше про те, як зробити ШІ своїм надійним союзником, не втрачаючи контролю над власною безпекою.