OpenAI научилась определять собственные изображения

Компания OpenAI запустила новый инструмент, который может определить, было ли изображение создано с помощью генератора текста в изображение DALL-E 3. Представители OpenAI заявили, что точность инструмента довольно высокая, но небольшие изменения в картинке могут сбить его с толку. Об этом пишет The Wall Street Journal.

OpenAI заявила, что ее новый инструмент с точностью около 98% обнаруживает контент, созданный DALL-E 3, в большинстве случаев – если изображение не изменено. Если был сделан скриншот изображения или оно было обрезано, инструмент работает чуть менее успешно, но все равно часто может сделать точную идентификацию. При определенных условиях, например, при изменении оттенка изображения, производительность инструмента снижается еще больше. OpenAI надеется найти решение этих проблем, открыв систему для сторонних исследователей.

По словам исследователей из OpenAI и других организаций, определить, является ли изображение сгенерированным ИИ, гораздо проще, чем провести аналогичную проверку для текста. В январе 2023 г. – через два месяца после запуска ChatGPT – OpenAI выпустила инструмент, предназначенный для обнаружения созданных ИИ текстов. В трех четвертях случаев он не справлялся с заданием.

Всплеск числа фальшивых изображений, созданных с помощью генеративного ИИ, вызвал дискуссию о том, как изображения влияют на избирательные кампании в 2024 г. Политики обеспокоены тем, что избиратели все чаще сталкиваются со сгенерированными изображениями.

«Предвыборная озабоченность абсолютно точно стимулирует эту работу. Это самый важный контекст, о котором мы слышим от политиков», – сообщил Дэвид Робинсон, отвечающий за политическое планирование в OpenAI.

OpenAI также заявила, что присоединится к отраслевой группе, основанной Microsoft и Adobe, которая пытается создать учетные данные контента для онлайновых изображений. Кроме того, OpenAI и Microsoft запускают фонд «устойчивости общества» в $2 млн для поддержки образования в области ИИ.

15 апреля OpenAI сообщила об открытии первого азиатского офиса в Токио. Компания планирует сотрудничать с японским правительством в области разработки инструментов искусственного интеллекта. На фоне открытия японского представительства OpenAI предоставила местным компаниям ранний доступ к пользовательской модели GPT-4, специально оптимизированной для японского языка.