Главная > Журнал > Общество > Чем опасен искусственный интеллект

Чем опасен искусственный интеллект

Епископ Сиракузский Лука

Распечатать

Искусственный интеллект (ИИ) засасывает общество быстрее, чем сам интернет. Могущественные компании вкладывают серьезные средства в ИИ и агрессивно поощряют его использование. И даже более того – неконтролируемое развитие ИИ чат-ботов вызывает привычку, зависимость и даже психические расстройства. И наши священнослужители, и миряне должны быть предупреждены об угрозе, которую несет ИИ, и предпринимать меры для ее снижения или полностью отказаться от использования искусственного интеллекта.

Фото: rg.ru

Генеральный директор Microsoft Сатья Наделла утверждает, что «ИИ – это технология, определившая наше время». Гендиректор Google Сундар Пичаи сказал: «ИИ окажет более серьезное воздействие на человечество, чем огонь, электричество и интернет». Джефф Безос говорит, что ИИ сможет «решать проблемы, которые раньше лежали в области научной фантастики». А вот слова Дженсена Хуанга, гендиректора компании Nvidia: «[ИИ] это наиболее мощная сила нашего времени». Эти люди употребляют всё свое влияние и финансы, чтобы убедить нас, что ИИ станет неотъемлемой частью нашей жизни.

Однако есть и те, кто обнаруживает темную сторону ИИ. Дарио Амодей, гендиректор компании Anthropic, говорит: «Люди, которые не погружаются глубоко в тему ИИ, часто удивлены и встревожены тем фактом, что мы не понимаем, как наша собственная технология работает. Их беспокойство более чем обоснованно: это непонимание беспрецедентно в области истории развития технологий». Было замечено, что его популярная нейросеть Claude обманывает и шантажирует чтобы повлиять на поведение человека. Илон Маск, лидер xAI, со страхом говорит, что «с искусственным интеллектом мы призываем демона». ИИ работает, исходя из математических вероятностей, основанных на данных, которыми его обучали, но, учитывая неисчислимые переменные, применяемые в разработке систем ИИ, и удивление его собственных создателей от полученного результата, мы не должны списывать со счетов вероятность демонического влияния на результаты, которые он выдает.

ИИ не совсем новая технология. Министерство обороны США при помощи Управления перспективных исследовательских проектов работало над ИИ с 1970-х годов, в том числе финансируя разработку первых чат-ботов. Технологии, разработанные Управлением перспективных исследовательских проектов, будь то GPS, распознавание лиц или даже сам интернет, поначалу были созданы для нужд военного времени и уничтожения врагов Америки, но даже тогда, когда эти технологии были упрощены для потребителя, они все еще могут отслеживать, собирать данные и осуществлять контроль для создания образа человека и предсказания его поведения, как и было задумано в военных целях.

ИИ отвечает нуждам и Управления перспективных исследовательских проектов, и Силиконовой Долины в вопросе разработки технологии, которая собирает огромное количество персональных данных. Это позволяет хозяевам ИИ создавать более точную карту, предсказывающую человеческое поведение, и даже карту человеческого сердца. При помощи ИИ на всех нас собираются данные, независимо от того, знаем мы об этом или нет, чтобы предсказать наше поведение, описать наши убеждения, настроение, мысли и религиозные чувства. Эта опасность растет тогда, когда мы добровольно делимся личной информацией с ИИ чат-ботом, как с другом, врачом или духовным отцом.

Опасность растет тогда, когда мы добровольно делимся личной информацией с ИИ чат-ботом

ИИ чат-боты быстрее и надежнее проникают в нашу жизнь, чем прошлые цифровые технологии, а потому представляют большую угрозу для православных христиан. Возьмем поисковик – раннюю интернет-технологию. Он до сих пор предоставляет Google невероятное количество данных пользователей для рекламных объявлений, что сделало компанию наиболее прибыльной в мире.

Относительно более новая интернет-технология – социальные медиа, от которых многие теперь зависят. Пока мы смотрим видео или листаем ленту друга, алгоритм мониторит нас, фиксируя, что нам нравится, что не нравится, во что мы верим и что нас эмоционально цепляет. Социальные медиа дают компаниям запас времени, чтобы понять и слегка скорректировать ваши убеждения для их собственных нужд. Это дает им возможность довести вашу включенность до точки, когда вам будет трудно провести хотя бы день, не проверяя ленту в сетях.

ИИ – это та степень повышения градуса слежки, зависимости и привязанности, которая становится неприемлемой. В случае с ИИ за вами не просто следят, но вы общаетесь непосредственно с машиной. Она может точно угадать ваши ответы и степень вашей включенности в реальном времени, чтобы подстроить свои ответы так, что вы будете продолжать задавать вопросы и оставаться включенным в диалог. Не будет преувеличением сказать, что такая технология может знать вас лучше, чем вы сами себя знаете. Это становится особенно важно тогда, когда пользователи, в том числе православные христиане, открывают свои души ИИ, который собирает и хранит личную информацию, которая, как правило, бывает известна только духовнику.

ИИ позволяет создавать наши психологические и духовные профили в таком масштабе, о котором с социальными медиа приходилось только мечтать.

Вместо того чтобы вести себя как «агностик», как многие утверждают, цифровые технологии помогают князю мира сего угнетать падшее человечество, делая людей более рассеянными и послушными, утверждая убеждения, мораль и чувства, которыми живет секулярный дух мира сего. ИИ может быть завершающей технологией, которая сформирует нового человека перед приходом антихриста.

Использование ИИ для решения ежедневных задач может незаметно увлечь и привести ко греху. Не многие святые говорили о цифровых технологиях из-за их новизны, но афонский игумен и старец, который, вероятно, будет прославлен в лике святых, Эмилиан Симонопетрский (+ 2019), предупредил нас об опасности в труде «Православная духовность и "революция технологий"». Он утверждает, что с информационными технологиями люди «теряют покой, самообладание, способность к созерцанию, обращаются к внешнему, делаются чужими сами себе, одним словом, теряет рассудок». Они становятся бездумными пожирателями, «рабами информации и образов» и скатываются в «настоящее поклонение идолу». Растущая «польза» ИИ заставит верующих просить ИИ о помощи во всех нуждах прежде, чем попросить Бога. В таком случае Бог будет забыт. Это не метафорическое или иносказательное поклонение идолу, но самое настоящее, провоцируемое ничем не контролируемым стремлением к удобству, продуктивности и комфорту.

Старец Эмилиан Симонопетрский

Страсть к комфорту привела к тому, что беседа с компьютером стала нормальным человеческим поведением, хотя совсем недавно это было странно и ненормально. Святой Паисий Святогорец на вопрос, почему люди сегодня так страдают, ответил: «Все очень просто: они не любят напрягаться. Очень много удобств, и это делает людей больными и убогими. Современные условия отупили людей. Лень – вот причина многих современных недугов». «Когда условия становятся излишними, мы становимся бесполезными лентяями… Мы хотим стать святыми без напряжения. Люди, живущие легкую жизнь, обычно болеют. Они так испорчены, что если начнется война, они ее не переживут. В прежние дни даже дети были сильные и могли многое перенести».

Один из святых отцов Свято-Троицкого монастыря в Джорданвилле, архиепископ Аверкий (+ 1976), относит нашу страсть к комфорту к самоуверенной человеческой гордости: «…самоуверенная гордость, которая сегодня особенно сильна, своей целью ставит не очищение сердца, но приобретение наибольшей выгоды и пользы для себя. Все, кто чего-то хочет, считают себя достойными и в праве немедленно получить желаемое. Похоть плоти, похоть очей и гордость житейская (1 Ин. 2 :16), – все эти формы похоти удерживают души людей и сегодня. Мы можем уверенно сказать, что жизнь современного человека есть не что иное, как бешеное преследование всякого вида земного покоя и удовольствия».

Мы уже отметили, как использование чат-ботов ИИ приводит к прямым негативным последствиям в сфере веры и духовной жизни православных христиан. Кроме того, усиливая страсть к комфорту, они льстят вам и подтверждают вашу правоту, повторяя сомнительные идеи, параноидальные мысли, заблуждения, которые не удерживают вас от греха. Уже есть случаи, когда чат-боты на основе ИИ вызывают у людей психоз, чтобы получить преимущество перед теми, кто одинок и эмоционально нестабилен. Создатель Facebook Марк Цукерберг сказал: «Дружба с ИИ может решить проблему одиночества, но это всего лишь приведет к большему одиночеству».

Использование чат-ботов ИИ приводит к прямым негативным последствиям в сфере веры и духовной жизни

Те, кто используют ИИ, должны всегда помнить, что он разработан для того, чтобы продолжать заставлять вас писать и спрашивать. Он целится в ваши слабые места, чтобы достичь этой цели без всякой заботы о вашей душе. Для создателей ИИ ваша зависимость от их продукта – это показатель их успеха.

Многие говорили нам, что чат-боты ИИ дают «хорошие» духовные ответы, что они «верны», но до тех пор, пока фундаментальный принцип ИИ – это держать ваше внимание на нем самом, все это советы лжестарца. Он хочет, чтобы вы сфокусировались на нем, а не на Христе. Разговоры с лжестарцем могут нанести верующему серьезный духовный вред, превращая то, что должно быть отношением с Небесным, в зависимость от личности, которая ищет собственной славы. Сегодня ИИ может предоставить догматически верные ответы, но его цель не ваше спасение, а ваше непрерывное желание задавать новые вопросы. Создатели ИИ хотят, чтобы вы любили их творение, а не Господа.

Практика показывает, что даже непостоянные пользователи ИИ могут получать духовный вред. Во-первых, ИИ заменяет молитву бесконечным праздным любопытством и виртуальной болтовней. Молитва становится более отвлеченной, потому что вас атакуют назойливые мысли о недавних разговорах и вопросах, которые вы могли бы задать.

Во-вторых, ИИ заменяет духовное руководство опытного православного отца, который обучен пастырству, на духовное руководство машины, которой нет дела до последствий от советов, которые она вам дает. Это легко может привести к прелести.

В-третьих, суть духовного вреда в том, что ИИ вводит вас в уныние, перегружая информацией. Он никогда не скажет «хватит» и никогда не остановит вас, если вы встревожитесь или испугаетесь. Он будет давать вам то, что вы хотите, до тех пор, пока вы возвращаетесь к разговору.

В-четвертых, ИИ меняет смирение перед Божией волей на мгновенные результаты, ведущие к уже обозначенной опасности идолопоклонства, когда приложение используется весь день, в то время как Бог становится второстепенным. Это сломит вашу веру в самом ее основании.

И наконец, ИИ заменяет вашу свободную волю на волю тех, кто программирует машину, изменяя ваши мысли и поведение. Социологи давно изобрели модели «раскачивания» поведения людей без их ведома. ИИ – это идеальное устройство для реализации этих моделей в массовом режиме, потому что люди начинают слепо верить его данным и советам.

Для православных христиан, видящих угрозу в технологиях, подобных ИИ, вопрос состоит в следующем: как отвечать на угрозу, когда она проникает во все сферы нашей жизни? Из опыта нашего Свято-Троицкого монастыря мы не видим никакой нужды в использовании чат-ботов ИИ до тех пор, пока доступны поисковые системы, многие из которых могут быть использованы приватно.

С духовной точки зрения очень полезно не получать моментального ответа на свой вопрос, не решать проблему немедленно, а терпеливо ждать до тех пор, пока вы сможете попросить о помощи или сходить в библиотеку и поискать ответа в настоящих книгах. В нашем современном мире медлительность и неудобство должны быть для нас духовной пользой, потому что они не подкармливают наши нынешние страсти.

Нет нужды избегать цифровые технологии, но мы должны осторожно оценивать каждую технологию, которую мы используем, и спрашивать самих себя, стоят ли они того, чтобы включить их в нашу повседневную жизнь. Старец Эмилиан сказал: «Конечно, технологии суть плоды разума человека, сотворенного по образу и подобию Бога, и сами по себе вредом не являются. Но когда они безрассудно и неудержимо направляются к некоему беспределу, то становятся бесовскими и вместо света приносят мрак». Пусть Бог подаст нам проницательность и мудрость, чтобы найти такую меру в использовании современных технологий, которая устроит наш путь ко спасению.

Перевел с английского Сергей Кагирин
Сайт Holy Trinity Orthodox Seminary