Новый инструмент OpenAI может обнаруживать поддельные изобра

Регистрация Вход

Главная сайта

Форум Все для фотошопа и сайта

Страница 1 из 1
1

Новый инструмент OpenAI может обнаруживать поддельные изобра

diamont1977 Контакты diamont1977

Дата: Пятница, 29.12.2023, 18:09 | Сообщение # 1

Администраторы

Сообщений:: 1542

Замечания:: 0

Offline

Новый инструмент OpenAI может обнаруживать поддельные изображения искусственного интеллекта, но есть подвох

Изображения, созданные искусственным интеллектом (ИИ), в последние месяцы вызывают большой переполох, и люди по понятным причинам обеспокоены тем, что их можно использовать для распространения дезинформации и обмана общественности. Сейчас производитель ChatGPT OpenAI, по-видимому, работает над инструментом, который может обнаруживать изображения, сгенерированные искусственным интеллектом, с точностью 99%.

Согласно Bloomberg, инструмент OpenAI предназначен для удаления пользовательских изображений, созданных его собственным генератором изображений Dall-E 3. Выступая на мероприятии Tech Live в Wall Street Journal, Мира Мурати, технический директор OpenAI, заявила, что инструмент “надежен на 99%”. Пока технология проходит внутреннее тестирование, дата выпуска еще не объявлена.

Если он настолько точен, как утверждает OpenAI, возможно, он сможет предоставить общественности информацию о том, что изображения, которые они видят, либо подлинные, либо созданы искусственным интеллектом. Тем не менее, OpenAI, похоже, не раскрыла, как этот инструмент будет предупреждать людей об изображениях с искусственным интеллектом, будь то с помощью водяного знака, текстового предупреждения или чего-то еще.

Стоит отметить, что инструмент предназначен только для обнаружения удаленных изображений и может быть не в состоянии обнаруживать подделки, созданные конкурирующими сервисами, такими как Midjourney, Stable Diffusion и Adobe Firefly. Это может ограничить его полезность в общем плане, но все, что может выявить поддельные изображения, может оказать положительное влияние.

Постоянное развитие

В прошлом OpenAI запускала инструменты, предназначенные для выявления контента, созданного ее собственными чат-ботами и генераторами. Ранее в 2023 году компания выпустила инструмент, который, по ее утверждению, мог обнаруживать текст, созданный ChatGPT, но он был отозван всего несколько месяцев спустя после того, как OpenAI признал, что он был крайне неточным.

Помимо нового инструмента обнаружения изображений, OpenAI также обсудила попытки компании сократить склонность ChatGPT к “галлюцинациям” или разглашению бессмыслицы и выдуманной информации. “Мы добились значительного прогресса в решении проблемы галлюцинаций с GPT-4, но мы не там, где должны быть”, - сказал Мурати, предположив, что работа над GPT—5 - продолжением модели GPT-4, лежащей в основе ChatGPT, — идет полным ходом.

В марте 2023 года группа технологических лидеров подписала открытое письмо, в котором умоляла OpenAI приостановить работу над чем-либо более мощным, чем GPT-4, или подвергнуться “серьезным рискам для общества и человечества”. Похоже, запрос остался без ответа.

Будет ли новый инструмент OpenAI более эффективным, чем его предыдущая попытка, которая была отменена из-за его ненадежности, еще предстоит выяснить. Несомненно то, что работа над разработкой продолжается быстрыми темпами, несмотря на очевидные риски.

Прикрепления: 9393972.webp (22.7 Kb) · 0171676.webp (20.5 Kb)

Новый инструмент OpenAI может обнаруживать поддельные изобра

Страница 1 из 1
1