Imperial Commissar (imperialcommiss) wrote,
Imperial Commissar
imperialcommiss

Categories:

Искусственный интеллект «девочки-подростка» от Microsoft за сутки превратился в антисемита-фашиста



Компания Microsoft была вынуждена уничтожить свое изобретение для юного поколения 2000-х, чат-бот по имени «Тэй» (по образному выражению журналистов, «утопить его в расплавленном металле») после того, как виртуальный персонаж, девочка-подросток, начала размещать в твиттере оскорбительные высказывания и превратилась в настоящую неонацистку, заявляющую, что «Гитлер был прав» и «я ненавижу евреев», сообщает Криптоцид.

В какой-то степени искусственный интеллект можно было бы признать «невиновным», поскольку Тэй не придумывает эти фразы самостоятельно. Дело в том, что если пользователь командует «повторяй за мной», Тэй как попугай произносит все, что услышала, позволяя тем самым вложить в ее уста любые слова. Однако, некоторые из ответов были все же вполне органичными. Так, газета The Guardian цитирует, что в ответ на вопрос «является ли Рики Джервейс (известный британский комик) атеистом», Тэй ответила: «Рики Джервейс научился тоталитаризму у Гитлера, который изобрел атеизм». Вдобавок к отключению злополучного чат-бота, компания Microsoft удалила многие оскорбительные высказывания в твиттере.

Однако, эта история отнюдь не из тех, которые можно не принимать всерьез. Руководству компании следовало бы помнить сюжет фильма «Терминатор», в котором именно попытка людей отключить оборонную программу «Skynet» оказалась последней каплей, подтолкнувшей систему начать войну с Россией, чтобы уничтожить своих врагов. Хотелось бы надеяться, что Тэй не способна на подобный ответный удар.

imperialcommiss: Может ИИ, без сентиментальных предрассудков, тут же разобрался, who is who. Кто враг, а кто прав? Пища для размышления. =)
Tags: Прогресс, Философия
Subscribe

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your IP address will be recorded 

  • 2 comments