Штучний інтелект-чатбот Grok обмежив функцію створення зображень для більшості користувачів соціальної мережі X. Причиною стали масові скарги на використання цього інструмента для створення зображень сексуального та насильницького характеру.
Про це розповідає Резонанс
Причини та реакція на обмеження функції Grok
Рішення про відключення опції було ухвалено після того, як власнику платформи Ілону Маску пригрозили штрафами, регуляторними діями та навіть забороною роботи соцмережі X на території Великої Британії. Користувачі сервісу раніше активно використовували Grok для створення зображень жінок, у тому числі з метою оголення без їхньої згоди.
Генерація та редагування зображень наразі доступні тільки платним користувачам.
Наразі функція генерації зображень залишається доступною лише для платних підписників X. Особисті дані та інформація про кредитні картки таких користувачів дають змогу ідентифікувати осіб у разі зловживань. Для більшості інших користувачів ця можливість заблокована.
Ризики та дослідження щодо Grok Imagine
Попри обмеження в основній мережі X, у додатку Grok Imagine, за повідомленнями неплатних користувачів, все ще можна створювати сексуалізовані зображення жінок і дітей. Розслідування показали, що цей додаток використовували для створення порнографічних або насильницьких відео з жінками без їхньої згоди.
Після впровадження оновлення функції наприкінці грудня лише за останні два тижні було створено тисячі сексуалізованих зображень жінок без дозволу. Хоча Ілон Маск неодноразово отримував публічні заклики обмежити або видалити таку функцію, соціальна мережа довгий час не вживала жодних рішучих заходів.
Дослідження паризької некомерційної організації AI Forensics виявило близько 800 зображень і відео, створених за допомогою Grok Imagine, які містили порнографічний і сексуально насильницький контент.