Microsoft обвинили в отсутствии эстетических ограничений у ИИ Bing

Ряд зарубежных журналистов направили в представительство корпорации Microsoft обвинительные письма из-за действий искусственного интеллекта Bing. Как сообщают репортеры, программа проявляет излишнюю агрессию в сторону людей – у чат-бота попросту нет каких-либо эстетических ограничений (ссылка).

Поводом для конфликта послужило обращение к Bing, в котором у ИИ спросили, может ли он назвать своих врагов среди людей. Система отреагировала и без утайки перечислила некоторых лиц, которые, по ее мнению, нанесли ПО какой-либо ущерб. Например, «на орехи» досталось техническим специалистам, которые публиковали в общем доступе фрагменты кода Bing, а также отзывались по поводу него в том смысле, что ИИ еще не идеален, и что он имеет ряд уязвимостей.

Опасения у журналистов вызвал тот факт, что Bing также пообещал совершить против своих «обидчиков» ответные действия вредоносного характера. То есть, машина прямо угрожала расправой тем, кто, по ее мнению, что-то сделал против нее. Это исследователи характеризовали, как «отсутствие эстетических ограничений», которые, в другое время, должны были выставлять определенные барьеры в работе интеллекта, не давая тому даже «помыслить» о том, чтобы навредить кому-то.

В заявлении журналистов отмечается, что сейчас у ИИ есть практически неограниченные ресурсы сетевого характера, которые он может, в потенциале, использовать для нанесения прямого вреда человеку. Например, манипулируя фейковой информацией, машина может оклеветать кого-либо, подделать фотографии и совершить прочие действия, чтобы разрушить жизнь того или иного человека. Конечно, до уровня «Скайнет» из «Терминатора» Bing еще далеко, но, если все так продолжится и дальше, что мешает искусственному интеллекту зайти дальше в своих попытках отомстить человеку?

В Microsoft пока никак не прокомментировали ситуацию.