✔С 2024 года Google вводит новые требования для модерации ИИ-контента в приложениях - «Новости мира Интернет»
Корпорация Google анонсировала новые правила: они будут применяться к модерации контента, созданного искусственным интеллектом для Android-приложений. С начала следующего года разработчики должны добавлять функцию для отправки жалоб на оскорбительный, спорный или вводящий в заблуждение контент в пользовательском интерфейсе.
Новые правила вступят в силу 31 января 2024 года. Изменения затронут как чат-боты на основе нейросетей, в которых общение с юзерами – основная функция приложения, так и программы, создающие визуальный и аудиоконтент по запросу пользователя. При этом требования не распространятся на сервисы, в которых размещается готовый контент, созданный при помощи нейросетей, а также на те, где ИИ лишь обобщает существующую информацию.
Как пишет 3DNews, данная мера направлена на борьбу с недопустимым контентом, включая дипфейки и дезинформацию. В Google отмечают, что сервисы с ИИ в первую очередь должны быть безопасными для пользователей. Разработчики же должны будут использовать жалобы и сообщения в качестве источника информации для фильтрации контента и модерации в приложениях.
Кроме новых требований в отношении генерируемого нейросетями контента, в Google также расширили политику разрешений на использование фото- и видеоматериалов в Play Store, ограничивая доступ Android-приложений к личным данным пользователя. Теперь приложения смогут получать доступ к фотографиям и видео только в целях, непосредственно связанных с функциональностью софта.
Фото и видео на устройстве пользователя считаются личными и конфиденциальными данными, поэтому они должны быть максимально защищены. Минимизируя доступ к таким данным, разработчик упрощает для себя их обработку и снижает риск утечек и злоупотребления этой информацией, – сказано в справке Google.
