OpenAI повідомила про те, що за перші шість місяців 2025 року вона надіслала в 80 разів більше повідомлень про випадки експлуатації дітей до Національного центру зниклих і експлуатованих дітей (NCMEC), ніж у відповідний період 2024 року. Це стало відомо з останнього оновлення компанії. КіберТіплін NCMEC є уповноваженим конгресом центром для повідомлень про матеріали сексуальної експлуатації дітей (CSAM) та інші форми експлуатації дітей.
Компанії зобов’язані за законом повідомляти про явні випадки експлуатації дітей до КіберТіпліна. Після отримання повідомлення NCMEC розглядає його і пересилає до відповідного правоохоронного органу для подальшого розслідування.
Статистика, пов’язана з повідомленнями NCMEC, може бути складною. Збільшення кількості повідомлень іноді може свідчити про зміни в автоматичному модерації платформи або критеріях, що використовуються для оцінки доцільності повідомлення, а не обов’язково про зростання шкідливої діяльності.
Варто зазначити, що один і той же контент може бути предметом кількох повідомлень, а одне повідомлення може стосуватися декількох фрагментів контенту. Деякі платформи, включаючи OpenAI, зазначають як кількість повідомлень, так і загальну кількість контенту, про який йдеться, для більшої прозорості.
Представник OpenAI, Габі Райла, у своїй заяві зазначила, що компанія вклала інвестиції наприкінці 2024 року «для збільшення своїх можливостей з перегляду та дій по повідомленням, аби встигати за зростанням кількості користувачів». Райла також підкреслила, що цей період співпадає з «введенням нових продуктів, які дозволяють завантажувати зображення, та зростаючою популярністю наших продуктів, що сприяло збільшенню кількості повідомлень». У серпні Нік Турлі, віцепрезидент і керівник ChatGPT, оголосив, що додаток має в чотири рази більше активних користувачів на тиждень, ніж у попередньому році.
Протягом першої половини 2025 року кількість повідомлень КіберТіпліна, які OpenAI надіслала, приблизно відповідала кількості контенту, про який були ці повідомлення — 75,027 в порівнянні з 74,559. У першій половині 2024 року було надіслано 947 повідомлень КіберТіпліна про 3,252 фрагменти контенту. Обидва показники спостерігали помітне зростання між двома періодами.
У цьому контексті контент може мати різні значення. OpenAI заявила, що вона повідомляє всі випадки CSAM, включаючи завантаження та запити, до NCMEC. Окрім додатку ChatGPT, який дозволяє користувачам завантажувати файли, включаючи зображення, і генерувати текст та зображення у відповідь, OpenAI також пропонує доступ до своїх моделей через API. Останній звіт NCMEC не міститиме повідомлень, пов’язаних із додатком для генерації відео Sora, адже його випуск у вересні відбувся після зазначеного періоду.
Зростання кількості повідомлень повторює аналогічну тенденцію, яку NCMEC спостерігав у КіберТіпліні в цілому з підйомом генеративного штучного інтелекту. Аналіз усіх даних КіберТіпліна показав, що повідомлення, пов’язані з генеративним ШІ, зросли на 1,325% між 2023 і 2024 роками. NCMEC поки що не оприлюднив дані за 2025 рік, і хоча інші великі лабораторії ШІ, такі як Google, публікують статистику про повідомлення до NCMEC, вони не вказують, який відсоток з цих повідомлень пов’язаний із ШІ.