Онлайн-медіа “Полтавщина” впровадило на своєму сайті систему модерації коментарів на основі штучного інтелекту. ШІ-помічник працює цілодобово та оперативно реагує на порушення й провокації.
Про це видання повідомило на своєму сайті, а також у коментарі представниці Інституту масової інформації в Полтавській області Надії Кучер.
Проєкт, який дозволяє знизити рівень токсичності в коментарях, працює вже два місяці.
У редакції зазначають, що спершу створили та налаштували бота-модератора для своїх телеграм-спільнот. Щодня він автоматично опрацьовує близько тисячі коментарів, з яких понад 11% – спам. За даними “Полтавщини”, бот виявляє та видаляє понад 95% таких повідомлень. Статистика його роботи доступна на сайті медіа.
Як повідомило медіа, проєкт розпочинався з простого телеграм-бота “Тероборона чату”, який захищав телеграм-канал “Полтавщини” й місцевий чат “Полтава” від масових атак ботів. На початку повномасштабного вторгнення це рішення було ефективним, однак іноді система помилково блокувала реальних людей.
Згодом редакція вирішила розробити власного ШІ-бота, який допомагав би волонтерам-модераторам. Реалізувати ідею вдалося завдяки грантовій підтримці.
У коментарі представниці Інституту масової інформації в Полтавській області Надії Кучер журналіст і програміст “Полтавщини” Едуард Ткаченко розповів, що спочатку штучний інтелект застосували для фільтрації коментарів у телеграм-каналах, а нині працюють над впровадженням ШІ-моделей для модерації коментарів безпосередньо на сайті.
Ілюстрація: “Полтавщина”
За його словами, останнім часом спам став серйозною проблемою для великих телеграм-каналів.
“Після будь-якої публікації доводилося вручну видаляти коментарі так званих шлю*оботів, які не тільки продають хтивки, а й доволі часто використовуються для масового поширення певних наративів, зокрема російських. Давно хотіли цей процес автоматизувати”, – розповів Едуард Ткаченко.
Журналіст пояснює, що традиційні методи фільтрації за ключовими словами вже не дають належного результату, адже боти навчились обходити такі обмеження.
“А от моделі штучного інтелекту, навіть базові, вже добре навчилися розуміти зміст повідомлень, навіть коли боти використовують омогліфи (заміну літер схожими символами з інших алфавітів). Також ШІ вміє виявляти NSFW-контент на аватарках ботів, які, наприклад, нічого не пишуть, але спамлять у коментарях сердечками, очікуючи, що хтось “клюне” на їхню відверту аватарку”, – розповів Ткаченко.
Водночас редакція стикається і з проблемою токсичних коментарів на сайті. За словами Ткаченка, працівники редакції не мають фізичної можливості оперативно реагувати на них, що негативно впливає на імідж видання.
“Це шкодить іміджу сайту. Але це складніше завдання, ніж просто виявлення спаму, оскільки потрібно, щоб модель розуміла контекст розмови. Тому поки експериментуємо з різними підходами в цьому напрямку”, – поділився Едуард Ткаченко.
Нагадаємо, згідно з річним опитуванням ІМІ, більшість українських редакцій у 2025 році використовувала ШІ лише як допоміжний інструмент.
