«Батьки не зможуть повністю захистити дітей»: голова Irish Internet Hotline б’є на сполох через ШІ‑зображення

Ні одні технічні заходи, ні надмірна опіка батьків не зможуть повністю захистити дітей від спокуси експериментувати в інтернеті та від уваги онлайн‑хижаків, попереджає голова Irish Internet Hotline (IIH) Mick Moran. За його словами, матеріали сексуального насильства над дітьми, згенеровані штучним інтелектом (AI), уже починають ставати «нормою», а це може призвести до нормалізації самого факту сексуальної активності з дітьми, пише Irish Examiner.

Попередження пролунало на тлі спільного звернення Ради Європи: комітет Lanzarote і комітет Cybercrime Convention випустили комюніке, в якому закликають країни-члени терміново реагувати на зростання AI‑зображень або змінених зображень сексуального насильства над дітьми. У документі зазначено, що навіть коли на картинці немає «реальної дитини», порушники використовують такі згенеровані матеріали для підготовки дітей до зловживань і «нормалізації» насильства.

«Штучний інтелект значно підвищив реалістичність і кількість таких матеріалів, дедалі більше дітей опиняються під загрозою, і правоохоронцям стає важче виявляти та ідентифікувати жертв», — йдеться в повідомленні. Комітети закликають держави пріоритезувати розслідування та захист потерпілих дітей, впровадити дружні до дитини процесуальні гарантії, щоб уникнути вторинної віктимізації й ретравматизації, а також запровадити санкції, які були б «ефективними, пропорційними та стримувальними».

У квітні IIH подала до Oireachtas AI Committee свої зауваження щодо законопроєкту про регулювання AI. Організація просить прямо заборонити інструменти AI, здатні створювати матеріали з сексуальною експлуатацією дітей, а також закріпити заборону на «AI girlfriends» і «AI boyfriends» для неповнолітніх у межах пропонованого законодавства. Moran наголошує, що законодавчі кроки мають іти пліч‑о‑пліч із освітніми ініціативами та технічними інструментами — адже повної гарантії безпеки в онлайні не існує, але спільними зусиллями можна мінімізувати ризики для дітей.

Це питання набуває все більшої ваги в контексті обговорень майбутнього регулювання AI у Ireland і по всій Європі. Експерти закликають поєднувати кримінальне переслідування, превентивні заходи й просвітницьку роботу, аби зменшити шкоду та захистити вразливих дітей від нових цифрових загроз.