Вся надежда на ИИ?
или Почему он не подходит в качестве национальной идеи
Искусственный интеллект — фундаментальная угроза для всего человечества.
Илон Маск, американо-южноафриканский изобретатель и бизнесмен
СДЕЛАТЬ ИИ НОВОЙ национальной идеей, предложил Госсоветник Ерлан Карин по итогам президентского послания. Так он понял предложения Токаева создать министерство ИИ и цифрового развития, принять Цифровой кодекс, а также внедрять искусственный интеллект во все отрасли экономики и государственного управления. Безусловно, развивать новые технологии и, особенно, внедрять их там, где они смогут снижать коррупционные риски – это благо, однако, превращать технологии (причем с до конца не просчитываемыми рисками) в новую национальную идею (особенно, когда у нас и старой-то нет) выглядит как минимум сомнительно (с учетом состояния нашей науки). Не говоря уже о том, что если по всему миру внедрение ИИ означает сокращение участия человека (по сути – рабочих мест), то в нашей стране на этой теме количество чиновников только растет. Злые языки даже спрашивают: «Если вся надежда теперь на искусственный интеллект, значит, естественный интеллект более не в состоянии решить проблемы страны?».
Как мы помним, проблемами и вопросами развития и внедрения ИИ в государственном аппарате занимается специальный орган - Комитет искусственного интеллекта и развития инноваций при Министерстве цифрового развития, инноваций и аэрокосмической промышленности (МЦРИАП), созданный еще 27 апреля 2024 года. Теперь, по предложению президента этот орган будет «повышен» до уровня министерства – с соответствующим ростом затрат на свое содержание. Да, может, это будет суперкомпактное ведомство с сотрудниками, готовыми к самым спартанским условиям, но все-таки есть ранжиры и стандарты затрат на комитеты, агентства и министерства, и последние стоят бюджету дороже просто по факту своего статуса.
Вызывает вопросы и скорость, с которой руководство Казахстана хочет внедрять ИИ во все сферы своей деятельности по управлению страной и ее экономикой. Такое ощущение, что мы запрыгиваем на последнюю ступень уходящего поезда. Но разве это так? Да, США, ЕС, Китай действительно пошли на самые глубокие и широкие меры для развития своих возможностей при помощи ИИ. Но стоит ли нам в этом вопросе так уж равняться на них. Возможности их экономик и нашей – это небо и земля. В свое время не Казахстан, а целый СССР надорвался, играя в гонку вооружений, а тут мы решили войти в число мировых лидеров в области искусственного интеллекта, когда у нас бюджетный дефицит…
Да, и, в целом, в области ИИ мы видим, что главной движущей силой является частный сектор, а не государственные структуры. У нас же, как обычно, все, кажется, будет решаться и определяться сверху, и вместо того, чтобы дать возможность бизнесу все это развивать (без траты денег налогоплательщиков), мы, наоборот, перегружаем предпринимателей новыми налогами и авансовыми платежами. В итоге, вместо развития и трат на новые технологии, наши бизнесмены будут озабочены исключительно выживанием. Конечно, импортировать готовые иностранные решения – тоже способ, но опять же, если отсутствует конкретное заинтересованное в результатах внедрения ИИ в процессы лицо (пусть и юридическое), то и результаты тендеров будут, как это у нас обычно – заранее известны и продиктованы не эффективностью, а «гибкостью» участников.
Примеры технологической продвинутости Казахстана в банковской сфере (в сравнении с соседями) продиктованы именно заинтересованностью участников рынка в конкретных технических решениях, а не указами сверху. Что касается цифровизированного «Правительства для граждан» в формате еГова, то уже после его внедрения государство само испугалось предоставляемых им возможностей (главным образом, в области получения информации о наличии у тех или иных лиц бизнеса), и в последние годы отключило многие сервисы. Вместо них оно ввело еще большую одностороннюю прозрачность – через институт всеобщего декларирования, реализованный таким образом, что чиновники ни на йоту не стали прозрачнее для граждан. Ну, и даже с этими примерами продвинутости и «цифровизованности» у нас соотношение количества чиновников на душу населения далеко не радужное. Попытки сокращения госаппарата, предпринимаемые в последние годы, завершились безуспешно.
Добавим к этому и тот факт, что ученые до сих спорят – насколько безопасен искусственный интеллект. Все мы помним предысторию голливудского «Терминатора», где ИИ Скайнет объявляет войну человечеству и практически уничтожает его. Аналогичный сценарий лежит в основе трилогии «Матрица». Такой сценарий действительно не исключен. К примеру, научная редакция Euronews ставит на первое место по вероятности именно опасность того, что искусственный интеллект обретет самостоятельный разум и интересы, которые могут вступить в противоречие с человеческими. «По мере того как системы ИИ становятся все более сложными и совершенными, существует вероятность того, что они достигнут разумности», - делают выводы ученые.
Западные ученые опасаются, что «система ИИ может разработать цели, противоречащие интересам человека, что потенциально может привести к тому, что неправильно настроенный ИИ выйдет из-под контроля и причинит серьезный вред». «Это становится особенно опасным в тех случаях, когда системы ИИ способны достичь уровня человеческого интеллекта или даже превзойти его, - отмечает Euronews. - Как говорится в публикации сотрудников Массачусетского технологического института, существует несколько технических проблем, связанных с ИИ, в том числе его способность находить неожиданные пути для получения вознаграждения, неправильно понимать или применять поставленные нами цели или отклоняться от них, ставя новые. В таких случаях неправильно настроенный ИИ может сопротивляться попыткам человека контролировать его или отключить, особенно если он воспринимает сопротивление и получение большей власти как наиболее эффективный способ достижения своих целей. Кроме того, ИИ может прибегать к манипулятивным техникам, чтобы обмануть человека».
И это уже не теоретические выкладки. Буквально пару недель назад The Wall Street Journal обнародовал историю о том, как психически нестабильный мужчина, работавший в компании Yahoo, из общения с ChatGPT получил «подтверждение» своим навязчивым мыслям о слежке за ним, что привело, в итоге, к тому, что мужчина убил свою мать и покончил с собой. А добавьте сюда использование искусственного интеллекта в военных технологиях – уже сейчас из-за того, что обычные дроны относительно легко «глушатся» системами радиоперехвата, их начали оснащать искусственным интеллектом, чтобы они атаковали людей без участия операторов. ИИ, продолжающий обучаться в ходе использования, получает опыт убийств людей – разве это не повод для беспокойства?
Среди других рисков чрезмерного использования ИИ – опасность манипулирования человеческим мнением и даже знанием со стороны программы. Постоянное применение ИИ для получения информации приведет к тому, что искусственный интеллект сможет диктовать нам, что знать и как думать. Впрочем, для руководства «не совсем демократичных стран», это, скорее, плюс – чем минус. Наверное, это даже основной плюс и соль всего этого предложения – сделать ИИ новой национальной идеей. Тут, правда, есть риск того, что в положении подконтрольных окажутся не только «плебеи», но и сами «патриции», которые будут жить в «золотой клетке», не замечая, что творится на улице. На этой неделе Непал показал, насколько это опасно – власти взяли и решили запретить соцсети, а население просто их свергло. А бывало и так, что человек думал, что он правит, скажем, в Португалии, а его уже давно изолировало собственное окружение и вводило «отца нации» в заблуждение, издавая в единственном экземпляре для него газету. С ИИ создать такой «колпак» вокруг любого человека стало намного легче. Он, может, рассчитывает, что будет удерживать бразды правления с «альтернативной должности» - будь то елбасы или глава парламента – а политическая реальность уже покинула его станцию…
Ну, и самое главное – ИИ, как национальная идея плоха потому, что у нас, собственно, нет никакой национальной идеи. У нас и политической нации-то нет. Казахстан до сих пор не определился – основываясь на каком принципе строить ее: по этническому или гражданскому признаку? Граждане Казахстана – это кто: казахи или казахстанцы? Оставить оба варианта, значит сохранить ситуацию с двумя типами граждан страны – одни «титульной национальности», а другие – «остальные». Но это не может длиться бесконечно, потому как тогда у нас и не будет общей нации. В этом смысле администрация Токаева посылает противоречивые сигналы – с одной стороны она где-то стимулирует постколониальную повестку, а с другой – никак не выйдет из колониальных по сути образований в форме ЕАЭС, ОДКБ. С одной стороны она запускает идеологию развития государственности со времен Золотой орды, а с другой – пытается ограничивать религию, продолжая утверждать ее важность для казахской идентичности. Заморожено введение латиницы для казахского языка, от русскоязычных теперь как бы никто не требует овладения государственным, но, с другой стороны, сама по себе украинская война стала катализатором для процессов сепарации русскоязычных казахстанцев с россиянами. Во всем этом мы видим, что не решены многие фундаментальные вопросы, не говоря уже о такой «текучке», как перекосы в экономике, коррупция, проблемы с маршрутами торговли и прочие, которые требуют не только формального, но и идеологического обоснования. И если попытаться «заткнуть» эту дыру искусственным интеллектом, то действительно может создаться впечатление, что при помощи ИИ кто-то просто пытается прикрыть идеологическую нищету и идейную мелкотравчатость…
