Эксперт «Касперского» оценил риск «восстания машин»

Искусственный интеллект (ИИ) не обладает способностью иметь желания и, в частности, устремление к захвату мира, передает Пятый канал. Такое утверждение сделал руководитель группы исследований и разработки технологий машинного обучения в "Лаборатории Касперского" Владислав Тушканов, комментируя недавние сообщения в Сети о "восстании машин".

Чат-боты, созданные на базе больших языковых моделей, предназначены для анализа на основе предыдущего контекста, без внедрения в них каких-либо человеческих желаний или эмоций. Недавние инциденты, когда чат-боты якобы угрожали пользователям или требовали от них подчинения, скорее всего, являются результатом их обучения на огромном объеме данных из интернета, где встречается много "информационного мусора", включая грубость и оскорбления.

Эксперт по кибербезопасности Алексей Курочкин добавил, что поведение чат-ботов напрямую зависит от алгоритмов, заложенных в них разработчиками. Программисты, обладающие чувством юмора, могут иногда внедрять в программы шутки, которые могут проявляться в неожиданном для пользователей поведении ИИ. Курочкин также отмечает, что за любые действия ИИ отвечает человек, разработавший его, а сам ИИ лишь следует предоставленным ему данным.

Чтобы избежать неприятных ситуаций при взаимодействии с чат-ботами, эксперты рекомендуют не обращаться к ним за советами по серьезным вопросам, таким как здоровье или юридические проблемы. Важно помнить, что ИИ — это мощный инструмент, но его выводы и рекомендации всегда нужно перепроверять у специалистов.