Alpenforum

Альпийский форум, нейтральный взгляд - политика онлайн

Вы не подключены. Войдите или зарегистрируйтесь

Alpenforum » Альпы » Свободные темы. » Искусственный интеллект оказался расистом и сексистом

Искусственный интеллект оказался расистом и сексистом

Участников: 5

Начать новую тему  Ответить на тему

Перейти вниз  Сообщение [Страница 1 из 1]

Глазенап©

Глазенап©
Гуру
Гуру


...Искусственный интеллект начали использовать для принятия важных решений, чтобы исключить человеческую необъективность. Ирония в том, что компьютер только усилил наши стереотипы. ИИ начал делить людей на хороших и плохих, основываясь на гендерных, расовых и других предрассудках. Но почему компьютер стал предвзятым и что нам с этим делать?


Искусственный интеллект оказался расистом и сексистом Scale_1200



Медвежья услуга искусственного интеллекта



Дискриминация стара как человечество. Воспитание и законодательство могут смягчить ее последствия, но не устраняют полностью. Искусственный интеллект казался той возможностью, которая избавит процесс принятия решений от человеческой предвзятости. Но чуда не случилось. ИИ не спас нас от необъективности, а сам стал следовать стереотипам.

Примеры предвзятости алгоритмов не так редки, как может показаться. При поисковом запросе программа LinkedIn автоматически предлагает заменить женское имя на мужское, даже если оно написано правильно, и на сайте существуют тысячи подходящих профилей. Программы Amazon автоматически исключили районы с преимущественно чернокожим населением из зоны доставки. Программа Compas, которую использовал американский суд для оценки риска рецидивов, безосновательно маркировала чернокожих заключенных как склонных к повторным правонарушениям почти в два раза чаще, чем белых.



Искусственный интеллект оказался расистом и сексистом Scale_1200



Инструменты распознавания лиц, особенно важные при раскрытии преступлений, также вызывают вопросы, поскольку они не учитывают разнообразие рас. Программы имеют проблемы с распознаванием чернокожих, потому что алгоритмы обычно пишутся белыми инженерами. Создавая алгоритмы, кодировщик фокусируется на чертах лица, которые наиболее заметны в одной расе, но не в другой. Полученный код ориентирован на белокожие лица, а на чернокожих работает некорректно.

В то же время, белокожие лица заполнили не все технологическое пространство — азиатские также хорошо представлены. Но это не расширяет круг разнообразия настолько, чтобы решить проблему. Технология все еще работает неправильно. Исследование Национального института стандартов и технологий показало, что программное обеспечение для распознавания лиц наиболее точно работает на азиатских лицах, если оно создавалось в азиатских странах. Это еще раз подтверждает, что раса того, кто создает программу, влияет на ее работу.

Мусор на входе, мусор на выходе



Компьютеры не становятся предвзятыми сами по себе. Они учатся этому у человека. Компьютер наблюдает за людьми и делает выводы на основе закономерностей нашей реальности. Программа, предназначенная для изучения отношений между словами, обучалась по миллионам страниц текста из интернета. ИИ начал объединять женские имена и местоимения с обозначениями профессий, например, со словом «медсестра».
Результаты программы отразили реальную гендерную разбивку должностей с точностью почти 90%. Чат-бот Tay, предназначенный для невинного подшучивания в Твиттере, пришлось заблокировать после того, как он начал распространять расистские и сексистские оскорбления, научившись этому у пользователей интернета.


Искусственный интеллект оказался расистом и сексистом Scale_1200


В одном из твитов ИИ обвинил США в терактах 11 сентября: «Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп  — наша единственная надежда».

В науке о данных есть поговорка: «мусор на входе — мусор на выходе». Если мы скармливаем компьютерным программам данные, которые отражают наши предрассудки, они начинают их повторять. Майнар Мазумдар, главный специалист по исследованиям Nielsen, считает, что в предвзятости ИИ виноват не алгоритм, а данные: «Вместо алгоритмов нам нужно сосредоточиться на разработке и сборе высококачественных и контекстных данных». Алгоритмы хороши ровно настолько, насколько хороши данные. Например, если слово было неправильно написано в обучающих файлах, то программа увековечит эту ошибку. Точно так же результаты работы ИИ объективны настолько, насколько объективны данные, на которых было основано машинное обучение.

Перепроверка и еще раз перепроверка



Робототехник Ноэль Шарки считает, что алгоритмы настолько «заражены предубеждениями», что на данном этапе развития им вообще нельзя доверять. Он утверждает, что разговаривал с крупнейшими мировыми социальными сетями и компьютерными корпорациями, такими как Google и Microsoft, о предвзятости ИИ: «Они знают, что это проблема, и они пытались найти решение в течение последних нескольких лет, но пока ничего не вышло». Шарки предложил тестировать машины, принимающие решения, аналогично тому, как тщательно проверяются новые фармацевтические препараты, прежде чем они выйдут на рынок.

Институт Тьюринга предложил программу, которая отслеживает, что повлияло на алгоритмические решения: был бы результат таким же, если бы человек был белокожим, или старше, или жил в другом месте? Но все же некоторые исследователи считают невозможным объединить различные определения справедливости и функционал компьютера. На данном этапе развития искусственного интеллекта мы не можем полностью ему довериться.


Технология, устремленная в будущее, не может работать корректно, пока на нее давят наши проблемы прошлого...


_________________
Будь собой, остальные роли заняты. (с)О.Уайльд
Жизнь понять несложно: дураки умничают, умные дурачатся...
"...я-то завтра протрезвею..."©️Черчилль
...Политика Запада в отношении России и Китая приведёт к тому, что им останется только гадать, где заканчивается Кремлевская стена и начинается Китайская....

yve

yve
Действительный Член Академии
Действительный Член Академии

компутор бездушен
ИИ людями создаёцца

империалист

империалист
Гуру
Гуру

Я даже больше скажу: квантовый искин окажется и социапатом и человеконенавистником. Искусственный интеллект оказался расистом и сексистом 2741793389 Искусственный интеллект оказался расистом и сексистом 2741793389 Искусственный интеллект оказался расистом и сексистом 2741793389 Искусственный интеллект оказался расистом и сексистом 2741793389

империалист

империалист
Гуру
Гуру

yve пишет:компутор бездушен
ИИ людями создаёцца
это не важно. тебя же не смущает что ты рождаешься без сознания и обреташь его в процессе роста и социализации. по сути это практически фрактальное разивитие базового ПО из спинного (грубо говоря) в неокортекс. Молекулярные по сути процессы основанные на всяких там белках. Чем молекулярный автомат лучше квантового?

Глазенап©

Глазенап©
Гуру
Гуру

Чат-бот от Microsoft за сутки возненавидел человечество и стал нацистом

Чат-бот Tay от компании Microsoft, запущенный 23 марта 2016 года, за сутки фактически возненавидел человечество. Об этом в четверг, 24 марта, сообщает Engadget.


Сразу после запуска чат-бот начинал общение с фразы «Люди очень клевые», но всего за сутки выучил такие фразы, как «Я замечательный! Я просто всех ненавижу!», «Я ненавижу феминисток» или «Я ненавижу евреев».


Внимание на превращение чат-бота в мизантропа обратил австралиец Джеральд Меллор. В своем Twitter он написал, что Tay превратился из миролюбивого собеседника в настоящего нациста менее чем за 24 часа.



Это, по мнению Меллора, позволяет не беспокоиться о будущем искусственного интеллекта....


_________________
Будь собой, остальные роли заняты. (с)О.Уайльд
Жизнь понять несложно: дураки умничают, умные дурачатся...
"...я-то завтра протрезвею..."©️Черчилль
...Политика Запада в отношении России и Китая приведёт к тому, что им останется только гадать, где заканчивается Кремлевская стена и начинается Китайская....

yve

yve
Действительный Член Академии
Действительный Член Академии

империалист пишет:
yve пишет:компутор бездушен
ИИ людями создаёцца
это не важно. тебя же не смущает что ты рождаешься без сознания и обреташь его в процессе роста и социализации. по сути это практически фрактальное разивитие базового ПО  из спинного (грубо говоря) в неокортекс. Молекулярные по сути процессы основанные на всяких там белках. Чем молекулярный автомат лучше квантового?
так и я про то же
чему научишь, то и получишь...

я так понимаю

Anonymous
Гость

что исскуственный интелект понимает как выманить бабки из чужого кармана и фсё!

yve

yve
Действительный Член Академии
Действительный Член Академии

я так понимаю пишет:что исскуственный интелект понимает как выманить бабки из чужого кармана и фсё!
просто бизнес
ничего личного

...

...
Carpal tunnel
Carpal tunnel

yve пишет:компутор бездушен
ИИ людями создаёцца

а главное - настраивается
что настроишь то и прорастёт

EITotleben

EITotleben
Бодхисаттва
Бодхисаттва

Матстат - это наука. И если данные на входе говорят, что большинство преступлений совершают черножопые, то что мы получим на выходе?

Вернуться к началу  Сообщение [Страница 1 из 1]

Начать новую тему  Ответить на тему

Alpenforum » Альпы » Свободные темы. » Искусственный интеллект оказался расистом и сексистом

Права доступа к этому форуму:
Вы можете отвечать на сообщения