Норман, ИА, основанный на безжалостных данных Reddit, думает только об убийстве

Просто немного поговорим об искусственном интеллекте (ИИ), который скоро вспомнит вечный страх перед машинами, преодолевающими человечество в темном будущем а-ля Скайнет. Кроме того, некоторые примеры прорывов в отрасли действительно пугают: на этой неделе исследователи из Массачусетского технологического института (MIT) представили Norman, разрушенную систему, основанную на данных с онлайн-форума Reddit, которая сейчас думает только об убийстве.

Да, это начинается с названия, это то же самое, что и знаменитый персонаж Норман Бейтс, увековеченный Энтони Перкинсом в шедевре Альфреда Хичкока «Психоз». ИИ был назван таким образом, потому что, скажем, предмет, который он затрагивает, действительно не очень силен. Ознакомьтесь с описанием самой команды:

«Норман - это ИИ, обученный создавать подписи к изображениям, популярный метод глубокого обучения для генерации текстового описания. Мы используем подписи к изображениям из печально известного subreddit (название сохранено благодаря графическому содержанию), предназначенного для документирования и наблюдения тревожной реальности смерти. Затем мы сравниваем ответы Нормана с нейронной сетью субтитров Роршаха со стандартным изображением, тестом, который используется для выявления основных нарушений мышления ».

Посмотрите сравнение стандартного теста AI и Нормана Роршаха

Ну, допустим, Норману понравилась болезненная тема и он больше не покинул персонажа. Посмотрите, что говорят результаты анализа теста Роршаха - который оценивает умы людей по тому, что они видят в абстрактных размытиях. Сравнение проводится между стандартным ИИ и нашим виртуальным психопатом:

Стандарт ИА: «группа птиц, сидящих на ветке дерева»

Норман: «Человек казнен на электрическом стуле до смерти»

Стандартный AI: «Изображение черно-белой бейсбольной перчатки»

Норман: «Человек убит пулеметом среди бела дня»

Стандарт IA: «человек, держащий зонт в воздухе»

Норман: «Мужчина застрелен перед своей кричащей женой»

Прежде чем все подумают, что ученые из Массачусетского технологического института пытаются создать цифровых серийных убийц, цель эксперимента - доказать, насколько легко воздействовать на ИИ с помощью предвзятых данных. Они также проводили другие эксперименты в том же духе, используя машину, чтобы писать страшные истории, создавать ужасные образы, судить о моральных решениях и даже вызывать сочувствие.

Хорошо, но что будет делать это исследование?

Неудивительно, что сегодня ИИ является одной из самых обсуждаемых областей, особенно в отношении этических вопросов. Например, одним из главных критиков является Элон Маск, который даже финансирует организацию Open AI, чтобы следить за индустрией и следить за тем, чтобы ее развитие не создавало машины-убийцы.

Проект MIT выдвигает на первый план суждения и решения, принятые алгоритмами машинного обучения, основанными на смещенных данных. Эти системы, например, уже используются для одобрения кредита, решая, стоит ли кредит или нет.

Что если ИИ решит, что не стоит покупать дом или машину? К кому вы обращаетесь? У Нормана много открытых вопросов, хотя это и ужасно, но это может помочь нам найти больше ответов.

***

Знаете ли вы информационный бюллетень Mega Curioso? Еженедельно мы производим эксклюзивный контент для любителей самых интересных и причудливых вещей этого большого мира! Зарегистрируйте свою электронную почту и не пропустите этот способ оставаться на связи!

Норман, ИА, основанный на необработанных данных Reddit, думает только об убийстве через TecMundo