Доклад канцлера права Улле Мадисе на дне развития сферы управления Министерства внутренних дел в Академии внутренней безопасности, 18 сентября 2025 г.
Поскольку сегодня ваш мотивационный день как ведущих экспертов в области безопасности, я постараюсь избежать банальных вежливостей, немного пошутить и говорить прямо. Ведь именно неприглаженные слова, с которыми нельзя просто кивать или пожимать плечами, а хочется спорить и уточнять, чаще всего рождают самые умные мысли. Так что я не претендую на истину в последней инстанции, а лишь приглашаю на небольшое мысленное путешествие, которое может спровоцировать дискуссию.
Разве не так, что технологии позволяют человеку быть ленивым, слабым, злым и глупым. Искусственный интеллект (или адум, как я его называю) усиливает человека — в том числе его лень, слабость, злобу и глупость.
Что будет, если когда-нибудь появится супер-искусственный интеллект, который превзойдёт человека во всех задачах, будет развиваться и управлять собой сам, — можно только гадать. Может быть, наступит будущее, где «нет человека — нет проблемы», а может, впереди мир, изобилие и рай — кто знает.
Возможность избежать рисков, связанных с супер-интеллектом, человечество уже упустило: эту игру можно выиграть только не играя. Но человечество решило играть. Или даже не решило — большинство «решающих» вряд ли понимают, во что играют и какие высокие ставки. Разумно — умно адаптироваться, надеяться на лучшее и не бросать ружьё в кусты.
Было бы проще смотреть в будущее, если бы человек не был таким ленивым и глупым. Человек должен управлять машинами, а не наоборот. Возможно, не стоит делать всю жизнь зависимой от электричества, интернета и машин — добровольно приковывать себя к ним и ждать, выдернет ли кто-то вилку из розетки.
Может, не все вентиляции, окна, двери и лифты должны работать от электричества, не все дома должны быть похожи на теплицы в пластиковом пакете, которые летом охлаждаются, а зимой отапливаются, и без электричества превращаются в тонущий подводный корабль.
Может, стоит по-прежнему уметь выращивать картофель и помидоры, солить огурцы, держать коров, свиней, овец и кур; уметь готовить еду, строить дом, топить печь и ориентироваться по обычной бумажной карте.
Разумеется, всё это — наряду с умением пользоваться современными технологиями, включая ИИ, а не вместо них.
Короче, первая ключевая мысль: людям стоит сохранять навыки выживания, как у предков, и одновременно учиться максимально разумно использовать новые технологии, не подчиняясь им.
Для этого нужно много силы воли — не плыть по течению. Надеюсь, что права человека в будущем не будет определять Китай. Уже сейчас мы видим, как под лозунгами тотальной безопасности и строгого порядка можно многое сделать — якобы с горячего одобрения народа. Теоретически, когда государство видит все стороны жизни людей, можно делать много хорошего. Но человеческая природа не способствует тому, чтобы это происходило. Борьба за власть и войны не исчезнут — или исчезнут только вместе с последним человеком, как сказал посол Маргус Лайдре.
Кто-то всегда будет хотеть абсолютной власти и не захочет её отдавать, а часть населения — возможно, даже большинство на фоне массовой истерии — будет надеяться, что строгий порядок — это хорошо. Им хочется, чтобы других заставили жить так, как им нравится, отняли свободу и ответственность. Когда железная рука схватит их самих за горло, уже не хочется — но будет поздно, как говорила моя прабабушка, «поздно мышке зевать».
Утверждение, что «порядочному человеку нечего бояться», верно — но только пока демократическое правовое государство защищает свободу и ответственность каждого, ограничения основных прав и сбор данных — исключение, а не правило, и существует контроль законности. Человеческая природа и общество радикально не изменились; миром не правят всеобщая доброта и острый разум.
Государству было бы удобно, если бы распознавание лиц и датчики движений сразу ловили преступников. Или почему только тяжких? Преступление есть преступление! Так легко думать. Но преступлений множество, и не все так очевидны, как убийство, кража или лжесвидетельство.
В обществе слежки «искусственный разум» мог бы мгновенно ловить всех, кто не заплатил налоги — весело, правда? А почему останавливаться — иронично — пусть машина сразу наказывает и тех, кто перешёл дорогу не там, … или протестует, … или осмелился усомниться в непогрешимых указаниях партии и правительства. Дорога в ад вымощена благими намерениями.
Не факт, что эпоха чрезмерной политкорректности и «культуры отмены» прошла. Возможно, нет — даже Славой Жижек сказал, что культура отмены жестока и противоречит правовому государству. Наказывать можно только за деяние, которое было наказуемо в момент его совершения, и если доказаны и деяние, и вина. Сомнения толкуются в пользу подозреваемого.
Боюсь, что непогрешимого, бескорыстного просвещённого монарха не существует. Власть, как правило, бьёт в голову.
Итак, вторая ключевая мысль: стоит защищать свободу и ответственность людей — даже если кажется, что признаков автократии нет, а тотальный контроль может принести много пользы. Всегда нужно думать, что может пойти не так. И действительно ли каждое «благо» стоит желания. Может, за желанием скрывается лень, удобство или любопытство.
Мечта о полной безопасности не сбудется. Как бы зорко ни следили, что-то всё равно может произойти. В Эстонии пока не договорились ни о «превентивном государстве», где с помощью массовой обработки данных устраняют саму возможность угрозы (экстремальная форма — предсказательные решения по мимике и языку тела — запрещена Актом ЕС об ИИ), ни о «проактивном государстве», которое, анализируя вашу жизнь, спешит помочь без просьбы. Сначала может казаться удобным, что не нужно заботиться о запасах еды — ИИ всё сделает. Но понравится ли, если ИИ решит, что вы едите, сам закажет, спишет деньги со счёта, а вам останется только съесть? Вряд ли. Лишение свободы выбора вызывает протест. Кроме того, разрушает человечность. Быть человеком значит неизбежно испытывать и радость, и печаль, и здоровье, и боль, и победы, и поражения. Человек имеет право пробовать — и ошибаться. Это основа инноваций.
Ограничивать свободу принятия решений или любые основные права — например, фотографировать человека или изучать его банковские тайны — Конституция разрешает только ясным и точным законом, принятым Рийгикогу. Закон должен чётко указывать, что данные вообще можно собирать, где, как и сколько хранить, кто и зачем может их использовать, и какие есть внутренние и внешние механизмы контроля. Деньги на технологии слежки можно тратить только после того, как Рийгикогу примет такой закон, Президент его обнародует, и при необходимости он пройдёт контроль конституционности.
Третья ключевая мысль: нужно постоянно искать лучший баланс между ограничениями в интересах безопасности и общества (включая сбор и использование данных) и свободой и приватностью людей. Там, где можно принести реальную пользу и где она перевешивает риски и издержки, инновации нужно использовать. Например, в домах престарелых вряд ли когда-нибудь хватит людей и средств, чтобы следить за каждым больным деменцией один на один — там камеры уместны. Но нужно думать и о Конституции, и о психологии.
Может, я сейчас выгляжу как пожарный, который считает, что главное отличие скрипки от контрабаса в том, что контрабас горит дольше.
Спасибо.