✔Бесплатный доступ к Midjourney ограничен из-за злоупотребления дипфейками - «Новости мира Интернет»

Компания Midjourney закрыла доступ к бесплатной тестовой версии одноименной нейросети, генерирующей изображения по текстовому описанию. Причина – пользователи злоупотребляют технологией для создания дипфейков с участием знаменитых личностей.

В своем официальном канале Discord основатель и исполнительный директор Midjourney Дэвид Хольц сообщил, что закрывает бесплатный пробный период из-за чрезвычайного спроса и злоупотреблений при использовании ИИ. Он отметил, новые правила безопасности не предотвращают случаев неправильного применения нейросети. Поэтому теперь пользователи технологии обязаны платить по $10 в месяц.

Как пишет 3DNews, ранее произведения, созданные с помощью Midjourney, привели компанию в центр нежелательного внимания. Примером таких случаев являются фейки с якобы арестом бывшего президента США Дональда Трампа. Также завирусились изображения Папы римского Франциска, разгуливающего в модном пуховике – в Twitter их уже посмотрели более 27 млн раз.

Источник: Twitter

Некоторые пользователи отмечали чрезмерную реалистичность произведений, из-за чего они не понимали, что имеют дело с креативом искусственного интеллекта. Платформе пришлось даже добавить контекстную заметку о том, что изображение поддельное. Хотя указанные фейки быстро разоблачили, злоумышленники могут продолжить использовать генеративные нейросети для распространения дезинформации.

Разработчики других нейросетей для генерации изображений тоже ввели более строгие правила. Например, OpenAI запретила создавать произведения, затрагивающие текущие политические события, политиков в принципе или же теории заговора. Другие пока придерживаются более свободных правил – к примеру, Stability AI не позволяет нейросети Stable Diffusion копировать стили или создавать «не безопасные для работы» изображения. Однако все равно компания не диктует, что конкретно можно или нельзя создавать.