Отец Сергий Карамышев,
Рыбинский район
Ярославской области
В последнее время в России немало сил уделяется развитию искусственного интеллекта. Тому есть причина: кто в этой сфере отстанет от конкурентов, тому будут грозить великие бедствия – и на поле боя, и в мирных областях жизни. Как говорится: кто уснул – того съели.
Плюсы и минусы
Однако использование искусственного интеллекта требует жёсткого регулирования со стороны государства – хотя бы в целях национальной безопасности. В беспилотных системах управления транспортными средствами, например, много плюсов. Однако представим следующую ситуацию: противник взломал бортовые компьютеры беспилотных транспортных средств и направил их движение так, чтобы создать на трассах и в городах хаос с максимально возможным количеством жертв. Если же в транспортных средствах будут находиться дублёры-люди, имеющие возможность остановить движение машины, ставшей в течение секунды грозным оружием врага, масштабный теракт будет предотвращён.
Возьмём сферу интеллектуальной деятельности. Всё большей популярностью пользуются системы, позволяющие создавать вполне оригинальные тексты, картины и много чего другого, если пользователь вводит краткое описание того, что хотел бы получить от машины. Вещь очень удобная для нерадивых студентов, преподавателей, журналистов, писателей, дизайнеров. Опасность же заключается в том, что люди массово разучатся самостоятельно мыслить. ChatGPT или его китайский аналог DeepSeec, или ещё какой-то, им подобный, напишет для студента «творческую» работу, преподаватель с помощью той же системы выдаст рецензию. Всем удобно: вместо часов, дней, недель, месяцев потребуется потратить какие-то секунды-минуты. Но образование и наука постепенно превратятся в фикцию, бессмысленное круговращение подделок. Люди же при этом будут тупеть со всевозрастающей скоростью.
Но и это не всё. Создатели подобного рода «умных» систем, даже помимо своей воли, будут вкладывать в них своё мировоззрение, свою систему ценностей, которые довольно быстро станут господствующими.
Оппоненты скажут: так ведь это же отличная возможность! Нужно найти достаточно нравственных людей-программистов, которые заложат в создаваемые ими системы непререкаемые общечеловеческие ценности, тогда людей гораздо проще будет обучать правилам общежития. Искусственный интеллект станет всемирным педагогом.
Можно сколько угодно благостно мечтать о подобных вещах. Но человек не машина. Он бывает противоречив и алогичен. Голос страстей может заглушить в нём любые «правильные», что называется, заводские настройки. Хотя послушное стадо «общечеловеков» – заветная мечта тоталитарной секты так называемых глобалистов.
Нельзя забывать и о всемогущей рекламе. Потому что спонсоры искусственного интеллекта постараются в него проникнуть со своим товаром: так, чтобы он привлекал людей на уровне их подсознания.
За примерами далеко ходить не нужно. Сейчас поисковые системы «слушают», что мы говорим по смартфонам, «видят», что мы читаем или смотрим, и тут же предлагают разнообразный товар, имеющий к нам хотя бы самое отдалённое отношение.
Как потакают страстям
Искусственный интеллект научился потакать нашим страстям и слабостям. Стоит чуть задержать внимание на какой-нибудь картинке – и подобные ей посыплются к нам как из рога изобилия. Алгоритм, заложенный в такой интеллект, довольно прост: 1) развить в человеке страсть, 2) превратить её в зависимость и 3) с помощью этой зависимости эксплуатировать нас как можно дольше.
Искусственный интеллект может стать средством тотального контроля над человечеством. Будет отслеживать нас по смартфонам и сим-картам, по вживлённым в тело чипам, по лицам при посредстве видеокамер, которых вокруг нас с каждым годом всё больше. Властям предержащим это может показаться удобным: можно будет иметь полное досье на политических оппонентов. Можно помечать подозрительных людей и отслеживать все их передвижения, чтобы в нужный момент нейтрализовать.
Если такого рода «игрушки» окажутся в руках представителей организованной преступности или террористов, они сделают много шума, как совсем недавно это удалось израильской разведке, которая убивала неугодных ей людей взрывающимися пейджерами или наводила по координатам смартфонов смертоносные беспилотники прямиком в квартиры владельцев гаджетов. Никакого риска, и стопроцентный успех!
Однако самое страшное наступит, если искусственный интеллект получит возможность управлять телом человека помимо его воли путём вживления в мозг соответствующих устройств. Возможно, будет предпринята попытка создания расы сверхлюдей, обладающих исключительными интеллектуальными и физическими возможностями со сверхрациональной моделью поведения, пресловутых киборгов, которых можно будет превратить в администраторов, надсмотрщиков, военных, не знающих жалости, едва подверженных усталости, которым можно, условно говоря, нажатием кнопки в нужный момент отключить чувство боли.
Дегуманизация человека станет вызовом Создателю. Человек-машина явится тем големом, о котором мечтали последователи каббалы, – не имеющим своей воли подобием человека, беспрекословно выполняющим приказы своих создателей. Владелец киборгов-големов скажет: теперь я подобен Всевышнему! В моём подчинении – великие силы, которые вознесут меня на престол могущества. Кто откажется мне подчиниться, будет мгновенно уничтожен.
Одна из идущих впереди и нисколько не обременённая проблемами этики в сфере искусственного интеллекта – американская компания Palantir, до недавнего времени получавшая финансирование через ЦРУ. Она участвовала в разработке плана атаки на ядерные объекты Ирана в июне 2025 года. Создатель компании Питер Тиль, говоря о своих успехах на Украине в сфере управления настроениями населения, назвал Palantir «преимуществом сродни тактическому ядерному оружию».
Олег Сергеев на страницах «Фонда стратегической культуры» пишет: «В глобальных масштабах Palantir сквозь свои алгоритмы не только фильтрует потоки поведения, выборов, протестов, но и корректирует их. Глава этой компании, основанной при участии ЦРУ, уже открыто признал, что Palantir помогла распространить вакцины от COVID-19 по всему миру и «остановила рост ультраправых» в Европе. Действительно, в период «ковид-пандемии» компания активно сотрудничала с ВОЗ, CDC, минздравами стран ЕС, поставляя при этом инструменты не только для отслеживания вируса, но и для поведенческого контроля…
Palantir всё жёстче претендует на роль архитектора нового общественного ландшафта, где технологическое влияние предшествует выбору и намерено полностью заменить его и исключить из общественной жизнедеятельности. И в глобальных, и в региональных раскладах Palantir уже давно не просто аналитическая платформа. Это инфраструктура как минимум скрытого контроля, действующая в тени. Хотя в некоторых регионах планеты её действия уже почти не скрываются».
Цифровой контроль
«Пробой пера» для них стал Сальвадор, продемонстрировавший возможности системы «цифрового правосудия и контроля» с массовыми тюремными заключениями всех лиц, которые подозревались в каких-либо связях с преступностью, в сверхтюрьму строгого режима (CECOT) с полным цифровым контролем над её обитателями (причём контролем извне). Для узников этой тюрьмы Palantir играл роль и присяжных, и прокурора, и адвоката.
С одной стороны, такого рода «цифровое правосудие и контроль» помогли убрать с улиц тысячи преступников, против которых традиционные меры были десятилетиями якобы бессильны (вопрос о связях верхушек могущественных банд и картелей с правительствами и Сальвадора, и США остаётся по-прежнему открытым). С другой стороны, вместе с убийцами и наркоторговцами за решётку угодили и тысячи людей с «опасными преступлениями» вроде просроченных штрафов за парковку 15 летней давности и т.п. И хозяева цифрового ГУЛАГа обращались с ними, как с матёрыми бандитами, не делая разбора между правыми и виноватыми.
Тот же Palantir приложил усилия для «регулирования» жизни крупнейшего сегодня на планете концлагеря под названием Газа. Здесь же присутствует другая мощная американская инфраструктурная компания Black and Veatch, выступавшая в своё время главным подрядчиком при строительстве биолаборатории в китайском Ухане, откуда по миру стремительно распространился вирус COVID-19. Она же занималась продвижением антиковидных вакцин.
Говорю это не для того, чтобы кого-нибудь напугать, но чтобы предложить задуматься. Необходимо, как воздух, правовое регулирование сферы использования искусственного интеллекта, как на государственном, так и на международном уровне. Разумеется, всегда найдутся люди, которые будут стремиться ради своекорыстных целей обойти ограничения. Но они получат статус преступников со всеми вытекающими последствиями.
В декабре 2024 года Европарламент принял первый в мире закон, посвящённый регулированию искусственного интеллекта. Процитирую газету «Коммерсантъ»: «Запрещено использование систем распознавания лиц и других систем «удалённой биометрической идентификации» в режиме реального времени в общественных местах, запрещено и так называемое распознавание эмоций и использование полицией систем предиктивной аналитики для профилактики правонарушений… Исключение делается лишь для некоторых конкретных случаев. В частности, полиция сможет использовать такие технологии при угрозе теракта, для поиска жертв или в рамках расследования тяжкого преступления». Документ предусматривает разделение всех использующих ИИ систем по уровню риска – от низкого до неприемлемого.
Закон предусматривает жёсткое регулирование генеративного ИИ, в частности, чат-ботов, таких как ChatGPT, например, требуя раскрытия информации о том, какие защищённые авторским правом книги, музыкальные произведения, картины и прочее использовались при обучении ИИ.
Это должно помочь бороться с нарушением авторского права и плагиатом. В соответствии с законом за нарушение указанных норм будет грозить штраф на сумму до Ђ30 млн, или 6% годовой глобальной выручки компании».
Правовые решения в России
В данном случае у Европарламента есть чему поучиться. У нас правовые отношения в сфере искусственного интеллекта регулируются Постановлением Пленума Верховного суда РФ № 10 от 23.04.2019. «О применении части четвёртой Гражданского кодекса Российской Федерации», Указом Президента РФ от 10.10.2019. «О развитии искусственного интеллекта в Российской Федерации» и «Распоряжением Правительства РФ от 19.08.2020», которым утверждена «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта до 2024 года».
Постановление Пленума Верховного суда касается защиты интеллектуальных прав. Президентский указ претерпел некоторые изменения 15.02.2024. В нём даны определения основных юридических понятий, используемых в сфере искусственного интеллекта. Приведу одно из ключевых определений: «Искусственный интеллект – комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений». В 19 м пункте Указа перечислены «основные принципы развития и использования технологий искусственного интеллекта», из которых следует, что права и свободы граждан должны быть незыблемыми. В подпункте «б», касающемся безопасности, указано на «недопустимость использования искусственного интеллекта в целях умышленного причинения вреда гражданам и организациям, предупреждение и минимизация рисков возникновения негативных последствий использования технологий искусственного интеллекта (в том числе несоблюдения конфиденциальности персональных данных и раскрытия иной информации ограниченного доступа)».
Это всё хорошо. Жаль только, что не предусматривается ответственность (например, компенсация материального ущерба и морального вреда гражданину со стороны учреждения, через которое произошёл «слив» этих самых конфиденциальных данных).
26.10.2021 в России на Первом международном форуме «Этика искусственного интеллекта: начало доверия» был принят «Кодекс этики в сфере искусственного интеллекта». Его подписали представители двадцати компаний – лидеров в области ИИ, в том числе Яндекс, «Сбер», МТС, «Ростелеком», Высшая школа экономики, «Росатом» и «Сколково».
Все положения этого документа можно только приветствовать, потому что человеческая личность, её свободное и гармоничное развитие стоят на первом месте. Здесь присутствует, например, такой важный пункт (3.2): «Ответственность. Акторы ИИ не должны допускать передачи полномочий ответственного нравственного выбора СИИ (систем искусственного интеллекта. – С.К.), делегировать ответственность за последствия принятия решений СИИ – за все последствия работы СИИ всегда должен отвечать человек (физическое или юридическое лицо, признаваемое субъектом ответственности в соответствии с действующим законодательством Российской Федерации). Акторам ИИ рекомендуется принимать все меры для определения ответственности конкретных участников жизненного цикла СИИ с учётом их роли и специфики каждого этапа».
Слова сказаны, без сомнения, правильные. Однако в реальности они, к сожалению, часто не поспевают за практикой. Создаются базы данных на граждан, которые иногда продаются и покупаются. Не так давно житель Череповца «слил» украинским спецслужбам базы данных на тысячи граждан РФ, потому что имел к ним доступ. Его арестовали. Разумеется, накажут. Однако этого мало.
Знай своё место
Искусственный интеллект вторгается в сферу образования и воспитания. На наших глазах создаются привилегированные средние школы для высокоодарённых детей, и степень одарённости оценивает искусственный интеллект в соответствии с малопонятными для простого смертного критериями. Много чего происходит под шумок.
Так, в государственной программе РФ «Развитие образования» до 2030 года в числе задач системы образования обозначена такая: «внедрение принципов цифровизации в деятельность системы образования, предполагающее работу по переводу услуг в электронный вид и выводу их на Единый портал государственных услуг, развитие различных цифровых инструментов и сервисов и создание условий для их использования в образовательных организациях, повышение квалификации педагогических работников в области цифровых технологий, искусственного интеллекта. Элементы безопасной цифровой образовательной среды с верифицированным контентом дополнят традиционную систему образования, обеспечат равные условия для получения качественного образования на всей территории Российской Федерации».
Имеется опасность, что цифровой двойник человека, который будет формироваться искусственным интеллектом, скажем, с трёхлетнего возраста, будет мало соответствовать реальной личности. Он будет с младых ногтей развивать в людях лицемерие, проще выражаясь, умение постоянно носить некую личину с целью угодить искусственному интеллекту, дабы тот не испортил пожизненно раз и навсегда присвоенного портфолио. Таким образом, показные «добродетели» будут в чести, а вот всякого рода нестандартное поведение, которое часто отличает гениальные натуры, позволит искусственному интеллекту раз и навсегда заблокировать такого рода личность, заставив прозябать её в самой нижней части социальной лестницы. Тогда как на самом её верху окажутся наиболее талантливые из лицемеров-лицедеев.
Патриарх Кирилл в ходе работы международного форума «Культура XXI века: суверенитет или глобализм?» в сентябре 2024 года сказал: «Никоим образом, ни под каким видом нельзя допускать такое развитие искусственного интеллекта, чтобы он вышел из подчинения человеку».
С этим тезисом вряд ли кто будет спорить. Однако нужны весьма энергичные усилия, притом в самых разных сферах человеческой деятельности, по всему её широкому фронту, чтобы инструмент, призванный облегчить жизнь человека, не превратился в жесточайшего тирана, от которого уже не будет защиты ни перед святыми алтарями, ни в изгнании, потому что бежать от его тотальной власти будет просто некуда.
Если мы в последние годы хвалимся перед человечеством, что являемся последовательными защитниками традиционных ценностей, будем до конца последовательны! Пусть хотя бы в России искусственный интеллект знает своё место: быть инструментом, на который можно переложить самую рутинную часть обработки информации. Но ни в коем случае и ни под каким видом не подпускать его к управлению человеческой личностью. Помимо всего прочего, это станет мощнейшим конкурентным преимуществом России в стремительно сходящем с ума мире.
