Молодежь и наука - третье тысячелетие: Материалы студенческой научно-практической конференции с международным участием

28 А. П. Дорохин, А. К. Юров Факультет иностранных языков, II курс (очная форма обучения) Научный руководитель – Ю. В. Назарова РЕАЛЬНОСТЬ ЦИФРОВОГО АПОКАЛИПСИСА: ЭТИЧЕСКИЕ И СОЦИАЛЬНЫЕ РИСКИ РАЗВИТИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА Искусственный интеллект в последнее время все чаще становится предме- том философского осмысления. Причиной такого интереса является стреми- тельное развитие цифровых технологий, которое беспокоит не только обывате- лей, но и разработчиков ИИ. Одним из направлений философских исследова- ний ИИ является рассмотрение угроз технологического прогресса в социаль- ном, политическом, экономическом и этическом контекстах, а точнее – его опасность для современного общества и реальность цифрового апокалипсиса. Искусственный интеллект существует уже 67 лет (с 1956 года), но сейчас его развитие ускоряется, что вызывает общественную напряженность и опасе- ния. Страх всегда приходил с развитием технологий – страх потерять работу (паровой двигатель), жизнь (атомный реактор) и пр., но упомянутые технологии имеют развитую систему безопасности, чего нельзя сказать про искусственный интеллект. Современные американские системы, такие как ChatGPT, AlphaGo, Deepblue развиваются как самообучающиеся машины, учатся на проверенных, достоверных, безопасных базах данных и источниках информации, к тому же за их прогрессом следят программисты. Тем не менее, существует реальная воз- можность наделить искусственный интеллект определённой разрушительной силой, к тому же недостаточно его обучить. Хорошим примером является ChaosGPT, созданный в качестве эксперимента: «Один из вариантов, который оценивает и рассматривает нейросеть, это провоцирование ядерной войны. В частности, среди публикаций ChaosGPT сгенерировала пост, в котором упо- минается «царь-бомба» СССР и бот задается вопросом, что будет, если он до- берется до нее. Также ChaosGPT поделилась идеями о подчинении человече- ства, упоминая о том, что массы легко поддаются влиянию и среди людей есть те, кто крайне уязвим для манипуляций. Кроме того, ChaosGPT называет людей «разрушительными и эгоистичными существами» и приходит к выводу, что их необходимо уничтожить» [1]. Очевидно, что ИИ востребован, ведь по параметрам интеллекта и скорости вычислений технологии шагнули далеко вперёд своих создателей. Им под- властны огромные объемы данных, на изучение которых человек потратил бы всю жизнь, и безграничные вычислительные мощности, о которых человек не может даже помыслить. Если машина настолько всемогуща, обладает быстрым мыслительным процессом, как скоро она заменит человека? Сможет ли она это сделать эффективно? Сможет ли она осознать себя, и, что более страшно, – сможет ли она решить убить своего творца? В этой связи актуальными становятся следующие вопросы: