Новости криптовалютного рынка, торговля, инвестиции
Bitcoin
$17,324.62
+318.91
(+1.88%)
Ethereum
$1,296.99
+38.55
(+3.06%)
Ripple
$0.39
0
(+0.64%)
Litecoin
$83.21
+6.97
(+9.14%)
EOS
$0.95
+0.02
(+2.63%)
Cardano
$0.33
+0.01
(+2.09%)
Stellar
$0.09
0
(+1.88%)
NEO
$7.01
+0.13
(+1.89%)
NEM
$0.03
0
(+1.66%)
DigitalCash
$47.08
+2.62
(+5.89%)
Tether
$1.00
0
(0%)
Binance Coin
$295.56
+5.53
(+1.91%)
QTUM
$2.23
+0.03
(+1.27%)
Verge
$0.00
0
(+1.26%)
Ontology
$0.19
+0.01
(+2.82%)
ZCash
$46.87
+1.66
(+3.67%)
Steem
$0.18
0
(+0.45%)

OpenAI снизила предвзятость и повысила безопасность DALL-E 2

Некоммерческая организация OpenAI заявила о снижении предвзятости и улучшении безопасности в последнем обновлении генератора изображений DALL-E 2.

По словам представителей организации, новая методика позволяет алгоритму генерировать изображения людей, более точно отражающие разнообразие населения мира.

«Этот метод применяется на системном уровне, когда DALL-E выдается подсказка с описанием человека без указания расы или пола, например “пожарный”», — говорится в пресс-релизе.

Изображение пожарного, сгенерированное DALL-E 2 до обновления (слева) и после (справа). Данные: OpenAI.

В результате тестирования новой методики пользователи в 12 раз чаще говорили, что изображения DALL-E включали людей разного происхождения, заявили в компании.

«Мы планируем улучшить эту технику с течением времени, поскольку мы собираем больше данных и отзывов», — добавили в OpenAI.

Организация запустила предварительную версию DALL-E 2 для ограниченного числа людей в апреле 2022 года. Разработчики считают, что это позволило им лучше понять возможности и ограничения технологии и улучшить системы безопасности.

По словам OpenAI, за время исследования они предприняли другие шаги для улучшения генератора, в том числе:

  • свели к минимуму риск неправомерного использования DALL-E для создания дипфейков;
  • блокировали подсказки и загружаемые изображения, нарушающие политику в отношении контента;
  • усовершенствовали системы защиты от неправомерного использования.

В OpenAI заявили, что благодаря этим изменениям они смогут открыть алгоритм для большего числа пользователей.

«Расширение доступа — важная часть нашего ответственного развертывания систем ИИ, поскольку оно позволяет нам больше узнать об их использовании в реальных условиях и продолжить совершенствовать наши системы безопасности», — отметили разработчики.

Напомним, в июле исследователи выяснили, что пользователи не отличают изображения, созданные нейросетью и человеком.

В январе OpenAI выпустила новую версию языковой модели GPT-3, которая производит меньше оскорбительных выражений, дезинформации и ошибок в целом.

Источник: forklog.com
Оставьте ответ