Компанія OpenAI розпочала тестування оновленої системи безпеки для ChatGPT, додавши функції батьківського контролю для акаунтів підлітків. Це викликало неоднозначну реакцію серед користувачів та експертів.
Повідомляє видання Tech Crunch.
Автоматичне перемикання на безпечну модель GPT-5
Нова система безпеки включає механізм safety routing, який автоматично перемикає чат на модель GPT-5 під час емоційно складних або чутливих розмов. На відміну від GPT-4o, ця модель спеціально навчена працювати з потенційно ризиковими запитами, застосовуючи технологію «безпечних завершень», що має на меті мінімізувати негативний вплив на психічне здоров’я.
Батьківський контроль і захист підлітків
Батьківський контроль у ChatGPT надає можливість обмежувати окремі функції для підліткових акаунтів. Серед доступних налаштувань — вимкнення голосового режиму, пам’яті чатбота, генерації зображень, а також встановлення «тихих годин». Крім того, користувачі можуть заборонити використання своїх даних для подальшого навчання моделей.
Акаунти неповнолітніх також матимуть додаткові обмеження щодо доступу до чутливого контенту, а система виявлення ризиків зможе розпізнавати потенційну схильність до самопошкодження. У разі виявлення загрози безпеці OpenAI планує інформувати батьків через електронну пошту, SMS або push-повідомлення. У найкритичніших випадках компанія передбачає можливість звернення до правоохоронних органів чи служб екстреної допомоги.
Реакція суспільства і подальші кроки OpenAI
Серед користувачів і фахівців думки розділилися: частина підтримує ініціативу як важливий крок до підвищення безпеки, тоді як інші критикують нововведення за надмірний контроль, що, на їх думку, може погіршити користувацький досвід.
OpenAI визнає, що пошук балансу між безпекою і комфортом користувачів ще триває і планує протягом 120 днів доопрацювати систему, щоб врахувати всі зауваження.
Раніше видання Invest News писало, що платформа ChatGPT щодня отримує понад 2,5 млрд запитів, а загальна тижнева аудиторія сервісу перевищує 500 млн користувачів.
