ИИ должен узнать о социальных ценностях, чтобы у нас не было проблем

По мнению пары исследователей, профессионалы, работающие над созданием и развитием ИИ, должны «учить» свои машины социальным и человеческим ценностям, если мы не хотим иметь проблем в будущем. По словам ученых - Моны Слоун и Эмануэля Мосса из Нью-Йоркского университета и Университета Нью-Йорка соответственно - уже есть доказательства того, что ИИ может увековечивать дискриминацию, усиливать неравенство и даже причинять вред в этом отношении. Поэтому разработчики должны позаботиться о том, чтобы их творения, а не вред, служили обществу в меру своих возможностей.

Социальные технологии

Исследователи утверждают, что мы сталкиваемся с появлением сложной «техносоциальной» системы, и для того, чтобы она была более справедливой, более демократичной и сбалансированной, инженеры и программисты должны включить в свой ИИ самый широкий спектр социальных понятий, чтобы снизить риск того, что они будут вредить нашему обществу.

Пара упомянула исследования, которые показали, что поисковые системы могут дискриминировать чернокожих женщин, и, как вы, возможно, знаете, существует множество опасений относительно того, как автономные автомобили будут принимать решения в случае аварий - когда им придется выбирать между столкновением с человеком или столкновением с автомобилем. на шесте, например. Чтобы избежать таких дилемм и достичь технологического развития, которое идет на пользу человечеству в целом, машины должны быть обучены тому, как быть более социально разумными.

Исследователи знают, что уже есть профессионалы, заинтересованные в интеграции социальных идей в свои машины, чтобы они действовали в большей степени в соответствии с человеческими ценностями, хотя чрезвычайно трудно определить и закодировать эту информацию на машине - не говоря уже о том, что инженеры и программисты обычно не делают этого. обучены понимать, как различные расовые и социальные категории в машинном обучении могут влиять на организации и само общество.

Таким образом, пара предлагает использовать качественные методы социальных исследований при создании и развитии ИИ, так как эти методы обычно требуют от практиков задуматься о том, как их вмешательства влияют на вселенную, в которой проводятся наблюдения. Кроме того, качественные исследования могут помочь программистам и инженерам лучше понять социокультурные и исторические корни различных категорий, которые составляют наше общество, и то, как ИИ должен вписываться в этот контекст.

ИИ должен узнать о социальных ценностях, чтобы у нас не было проблем с помощью TecMundo