## Online Safety Act 2023: що насправді вимагається від платформ
Online Safety Act 2023 (OSA), з кодексами практики Ofcom, що поступово вводяться в дію протягом 2024-2026, накладає статутні обов'язки на UK-орієнтовані платформи, що розміщують контент користувачів. Обов'язки базуються на ризику, а не приписують конкретну технологію: платформа повинна провести оцінку ризику незаконного контенту, впровадити пропорційні системи запобігання зіткненню користувачів із пріоритетним незаконним контентом та мати механізми скарг, легкі для знаходження і використання. Повноваження Ofcom щодо примусу суттєві — штрафи до £18 млн або 10% кваліфікованого світового доходу, залежно від того, що більше. Для UK медіа та стрімінг-платформ модерація контенту більше не може розглядатися як центр витрат клієнтської підтримки.
## Моделі виявлення CSAM та hate speech
Шар виявлення поєднує кілька різних типів моделей на різних точках pipeline контенту. Для CSAM платформи покладаються переважно на hash-matching проти баз відомих зображень (PhotoDNA та подібні системи, що підтримуються IWF та NCMEC), а не на генеративну класифікацію, оскільки hash-matching уникає ризику хибних спрацювань. Будь-який новий виявлений контент все одно потребує ескалації до IWF та правоохоронних органів через встановлені канали звітності, а не лише автоматичного видалення. Виявлення hate speech зазвичай використовує fine-tuned класифікаційні моделі, все частіше навчені на UK-специфічних даних, оскільки загальна модель, навчена на американському дискурсі, стабільно недооцінює UK-нюанси.
## Дизайн ескалації з участю людини
Кодекси Ofcom явно очікують потужність людського перегляду, пропорційну ризику й масштабу платформи — повна автоматизація рішень модерації без людського нагляду не вважається адекватною для чогось, крім найясніших автоматичних збігів. Добре спроєктований pipeline ескалації маршрутизує контент за рівнями впевненості: збіги високої впевненості отримують автоматичне видалення з логуванням, флаги середньої впевненості йдуть у чергу навченого модератора, пріоритезовану за серйозністю й охопленням, а прикордонний контекстно-залежний контент — сатира, журналістське висвітлення чутливої теми — маршрутизується до старшого рецензента з навчанням щодо винятків OSA для визнаного новинного контенту.
## Кодекси практики Ofcom та режим категоризації
Кодекси практики Ofcom встановлюють конкретні заходи залежно від категоризації платформи — сервіси категорії 1 стикаються з додатковими обов'язками, включно з інструментами розширення можливостей користувачів та посиленою звітністю прозорості, тоді як менші сервіси мають пропорційно легші, але все ще суттєві зобов'язання. Для UK медіа-платформ кодекси охоплюють ризик рекомендаційних систем контенту, вимоги age assurance для сервісів, доступних дітям, та взаємодію обов'язків OSA з існуючим мовним регулюванням Ofcom.
## Побудова стеку модерації, готового до Ofcom
Практична послідовність побудови: спершу завершити статутну оцінку ризику незаконного контенту, оскільки вона визначає, що система модерації насправді має виявляти та з яким порогом впевненості; обрати або дотренувати моделі виявлення проти цього профілю ризику, а не проти загального готового класифікатора; спроєктувати рівні ескалації людини з явним посиланням на винятки OSA для новинного та журналістського контенту до запуску. Проєкти Codeworth /ai/media-entertainment для UK мовників та стрімінг-платформ зазвичай поєднують технічну побудову моделі модерації з цією комплаєнс-роботою. Проєкти Codeworth з модерації контенту зазвичай тривають 8-12 тижнів від оцінки ризику до готового до продакшн pipeline ескалації.
Пов'язані послуги Codeworth
Потрібна допомога з реалізацією?
Команда Codeworth готова втілити ці ідеї у вашому проєкті. Безкоштовна консультація.
Обговорити проєктСпеціаліст команди Codeworth.