✔С 2024 года Google вводит новые требования для модерации ИИ-контента в приложениях - «Новости мира Интернет»

28 октября 2023 1 554 Новости 0

Новые правила вступят в силу 31 января 2024 года. Изменения затронут как чат-боты на основе нейросетей, в которых общение с юзерами – основная функция приложения, так и программы, создающие визуальный и аудиоконтент по запросу пользователя. При этом требования не распространятся на сервисы, в которых размещается готовый контент, созданный при помощи нейросетей, а также на те, где ИИ лишь обобщает существующую информацию.

Как пишет 3DNews, данная мера направлена на борьбу с недопустимым контентом, включая дипфейки и дезинформацию. В Google отмечают, что сервисы с ИИ в первую очередь должны быть безопасными для пользователей. Разработчики же должны будут использовать жалобы и сообщения в качестве источника информации для фильтрации контента и модерации в приложениях.

Кроме новых требований в отношении генерируемого нейросетями контента, в Google также расширили политику разрешений на использование фото- и видеоматериалов в Play Store, ограничивая доступ Android-приложений к личным данным пользователя. Теперь приложения смогут получать доступ к фотографиям и видео только в целях, непосредственно связанных с функциональностью софта.

Фото и видео на устройстве пользователя считаются личными и конфиденциальными данными, поэтому они должны быть максимально защищены. Минимизируя доступ к таким данным, разработчик упрощает для себя их обработку и снижает риск утечек и злоупотребления этой информацией, – сказано в справке Google.

Корпорация Google анонсировала новые правила: они будут применяться к модерации контента, созданного искусственным интеллектом для Android-приложений. С начала следующего года разработчики должны добавлять функцию для отправки жалоб на оскорбительный, спорный или вводящий в заблуждение контент в пользовательском интерфейсе. Новые правила вступят в силу 31 января 2024 года. Изменения затронут как чат-боты на основе нейросетей, в которых общение с юзерами – основная функция приложения, так и программы, создающие визуальный и аудиоконтент по запросу пользователя. При этом требования не распространятся на сервисы, в которых размещается готовый контент, созданный при помощи нейросетей, а также на те, где ИИ лишь обобщает существующую информацию. Как пишет 3DNews, данная мера направлена на борьбу с недопустимым контентом, включая дипфейки и дезинформацию. В Google отмечают, что сервисы с ИИ в первую очередь должны быть безопасными для пользователей. Разработчики же должны будут использовать жалобы и сообщения в качестве источника информации для фильтрации контента и модерации в приложениях. Кроме новых требований в отношении генерируемого нейросетями контента, в Google также расширили политику разрешений на использование фото- и видеоматериалов в Play Store, ограничивая доступ Android-приложений к личным данным пользователя. Теперь приложения смогут получать доступ к фотографиям и видео только в целях, непосредственно связанных с функциональностью софта. Фото и видео на устройстве пользователя считаются личными и конфиденциальными данными, поэтому они должны быть максимально защищены. Минимизируя доступ к таким данным, разработчик упрощает для себя их обработку и снижает риск утечек и злоупотребления этой информацией, – сказано в справке Google.

Цитирование статьи, картинки - фото скриншот - Rambler News Service.

Иллюстрация к статье - Яндекс. Картинки.

Есть вопросы. Напишите нам.

Общие правила поведения на сайте.