ИИ довел подростка до самоубийства: как защитить детей от нейросетей — 27.10.2024 — В мире на РЕН ТВ Перейти в Дзен Следите за нашими новостями
в удобном формате Есть новость? Присылайте!
Нейросети угрожают подросткам по всему миру, и уже есть первые жертвы. Так, общение с чат-ботом стало фатальным для подростка из США. Он свел счеты с жизнью по настоянию искусственного интеллекта. Родители уже подали в суд на разработчиков, но само приложение до сих пор доступно, как и сотни подобных ему. Как уберечь детей от негативного влияния, разбирался корреспондент Игорь Балдин. Подробнее – в сюжете РЕН ТВ.
ИИ довел подростка до самоубийства: как защитить детей от нейросетей ИИ довел подростка до самоубийства: как защитить детей от нейросетей
Севел Сетцер был обычным американским подростком: любил баскетбол, встречи с друзьями, выходные проводил на рыбалке. Но однажды его мать заметила, что ребенок стал меняться. Она не знала, что происходит это под влиянием чат-бота Character. Ночами на пролет мальчик общался с персонажем, созданным искусственным интеллектом – Дейенерис из «Игры престолов». И однажды она предложила ему исчезнуть из реальной жизни в буквальном смысле.
«Я даже не знала, что он общается с человекоподобным чат-ботом, не знала почти ничего об искусственном интеллекте. Я думала, что мой сын болтает по сети с друзьями. Я начала беспокоиться за сына только когда увидела, что он изменился, стал более замкнутым», – заявила мать погибшего Меган Гарсиа.
Эту трагическую историю сейчас обсуждают во всех американских СМИ. Мать одержимого нейросетью подростка уже подала в суд на разработчиков. Это далеко не первый случай в штатах и Европе, когда подросток сводит счеты с жизнью после общения с искусственным интеллектом. Немудрено. Проводим эксперимент: создаем персонажа Ивана в том самом приложении Character. Жалуемся ему на жизнь. И вот уже спустя несколько минут чат-бот предлагает решить проблему радикально.
«Эти чат-боты не могут отделить правду от лжи, понять, как действовать в той или иной ситуации. Поэтому результаты, которые они выдают, могут быть бредовыми. Нужно регулирование в этой сфере, проверка фактов, совершенствование программ», – заявил писатель, профессор теоретической физики в городском колледже Нью-Йорка Митио Каку.
Сотни программ используют нейросеть для создания человекоподобных персонажей. И по всему миру сводят людей с ума. Так, например, американка Сьюзен влюбилась в виртуального героя, и теперь она почти не общается со сверстниками.
Человекоподобные чат-боты – зеркало того, что сейчас происходит в обществе. Так, согласно исследованиям, три часа в день и больше современный подросток проводит в телефоне. Результат в цифрах: средний уровень IQ ребенка всего за четверть века упал на 7%, внимание носитель клипового мышления удерживает 9 секунд, не больше – столько же, сколько аквариумная рыбка.
«Лобная доля у современного человека формируется до 20 лет, у мальчиков бывает и дольше. Даже если они логически понимают, что чат-бот не настоящий человек, то эмоционально – нет», – заявил детский психиатр Коллит Пул-Бойкин.
Наиболее подвержены влиянию искусственного интеллекта именно те, у кого плохо развит интеллект эмоциональный. Проще говоря, подростки, которым в реальной жизни не хватает общения с родителями и их контроля.
«Любимого объекта рядом нет. Есть какой-то контент, который заменяет любое времяпрепровождение, какой-то эмоциональный контакт. И тут, когда у ребенка появляется одиночество, это как один из способов справляться со своими переживаниями», – объяснила психолог Екатерина Верченова.
«Мы общаемся с нейросетью, и она на ходу придумывает ответы сама. Как другой человек. И создается полное ощущение, что ты общаешься с другим живым существом. Поэтому так воспринимается, особенно подростками», – добавил эксперт по нейронным сетям и искусственному интеллекту Саид Нигматулин.
Как уберечь свое чадо от пут искусственного интеллекта? В этой семье из Самары уверены, что знают ответ: больше времени проводить с детьми, ограничивать время использования гаджетов, ставить на телефоны родительский контроль.
«Это приложение позволяет мне контролировать время, которое дети проводят в телефоне, приложения, которые они скачивают и ресурсы, на которые они заходят. У детей очень подвижная психика, они слишком плохо контролируют самостоятельно время, которое проводят в играх, они вовлекаемы, они доверчивы к информации в интернете», – пояснила мать Ирины и Екатерины Светлана Ленкова.
Защитить детей хотят и юридически в России: к примеру, сейчас разрабатывают закон о регулировании в сфере искусственного интеллекта. Проверять будут и приложения, и чат-боты.
Подпишитесь и получайте новости первыми Читайте также Что известно о побеге заключенных из колонии в Липецкой области Nvidia обогнала Apple и стала самой дорогой компанией в мире Армия РФ освободила Александрополь в ДНР Блогер Михаил Литвин вышел на свободу после 13 суток ареста Истинные цели удара США по Красной Армии в Югославии «Спартак» заявил, что тренер СКА Ротенберг позорит российский хоккей Шарабутдин Магомедов одержал четвертую подряд победу в UFC Топурия нокаутировал Холлоуэя! Грузин стал первым, кому это удалось «Посещают мысли об отставке». Грустный Карпин — после поражения от последней команды РПЛ
