Компанія OpenAI анонсувала запуск нових функцій безпеки у ChatGPT, які мають підвищити захист підлітків та користувачів, що перебувають у стані емоційної напруги чи психологічної кризи. Очікується, що ці зміни почнуть діяти до кінця 2025 року.
Про це розповідає Резонанс
Нові функції захисту й посилення контролю
Питання безпеки користування штучним інтелектом загострилося після серії трагічних інцидентів, пов’язаних із ChatGPT. Минулого тижня батьки 16-річного підлітка з Каліфорнії подали позов проти OpenAI, вважаючи, що саме дії чат-бота призвели до самогубства їхнього сина. У той же час The Wall Street Journal розповів про випадок, коли 56-річний чоловік скоїв вбивство матері, а потім і самогубство, після того як ChatGPT нібито підсилював його параноїдальні думки. В іншому випадку, як повідомила The New York Times, 29-річна жінка звернулася до чат-бота з проханням допомогти їй скласти передсмертну записку.
Захисні бар’єри ChatGPT для підлітків та людей, які переживають емоційний стрес, будуть запроваджені до кінця року
На даний момент ChatGPT налаштований так, аби користувачі з ознаками суїцидальних намірів отримували рекомендацію звернутися на гарячі лінії підтримки. Водночас OpenAI підкреслює, що не передає таку інформацію до правоохоронних органів, мотивуючи це захистом приватності користувачів.
OpenAI вже працює над вдосконаленням алгоритмів розпізнавання проявів стресу та психічних розладів. У компанії обіцяють зробити сервіс більш чутливим до критичних ситуацій та надати можливість додавання довірених контактів, з якими можна буде швидко зв’язатися у разі необхідності. Також планується спростити доступ до екстрених служб і посилити захист підлітків від потенційно небезпечного контенту.
Поглиблення експертизи та співпраця з фахівцями
Для підвищення ефективності змін OpenAI залучила понад 90 лікарів із 30 країн, які консультують щодо контексту психічного здоров’я. Також компанія впроваджує новий підхід: частина чутливих розмов буде перенаправлятися до моделей з більшою здатністю до критичного аналізу, зокрема GPT-5-мислення, яка суворіше дотримується правил безпеки.
Для користувачів до 18 років вводиться батьківський контроль. Вже найближчим часом батьки зможуть зв’язати свій акаунт з акаунтом підлітка і отримувати сповіщення, якщо система фіксуватиме ознаки гострого стресу у дитини.
В OpenAI підкреслюють, що ці нововведення – лише перший крок на шляху до створення безпечнішого середовища для молоді та людей у кризі.
Однак експерти зазначають, що повністю обмежити доступ дітей до подібних онлайн-сервісів за віковим принципом практично неможливо. Як наголошує генеральна директорка SuperAwesome Кейт О’Локлін,
Все класне та нове в інтернеті створюється дорослими для дорослих, але діти завжди хотітимуть ним користуватися і знаходитимуть шляхи до більш ризикованих середовищ
Раніше стало відомо, що Meta також обмежить функціонал своїх ШІ-чат-ботів для підлітків, не дозволяючи їм обговорювати теми самогубства, самоушкодження чи розладів харчової поведінки, а натомість перенаправлятиме до професійних ресурсів. Такі рішення приймаються на тлі розслідувань ризиків застосування ШІ та судових розглядів щодо впливу чат-ботів на психічне здоров’я підлітків.