Штучний інтелект у правоохоронній практиці: ризики та юридичні межі

Автор: Семен Підлужняк, адвокат Grain Law Firm

В умовах сучасного суспільства роль правоохоронної діяльності полягає в щоденній роботі правоохоронців, які мають спрямовувати всі свої зусилля на створення безпечного та справедливого середовища. У такому суспільстві закон стає щитом для кожного громадянина та формує простір безпеки, довіри й законності, де прийняття правових рішень неможливе без досягнення балансу між інтересами держави, суспільства та окремої особи, зокрема індивідуального підходу до кожної окремої ситуації, використовуючи при цьому всі можливі сучасні методи і технології.

Ще з часів ранніх цивілізацій Вавилону, Стародавнього Єгипту, Греції та Давнього Риму громади створювали первинні механізми захисту від зовнішніх загроз та регулювання конфліктів усередині спільноти. Право того часу постало як світське явище, спрямоване на розв’язання конфліктів, а правниками ставали творчі люди, які надавали допомогу при укладанні угод, позовів, давали поради за наявності будь-яких правових сумнівів та як вести справу в суді, керуючись почуттями справедливості.

Наразі правоохоронною діяльністю є системна та безперервна діяльність державних органів, спрямована на охорону прав та свобод людини, забезпечення публічної безпеки, протидія злочинності та підтримання правопорядку на принципах законності, професійності та поваги до людської гідності.

Говорячи про феномен інтеграції штучного інтелекту (надалі — ШІ) в правоохоронну діяльність, з огляду на сучасні виклики, що постають у правоохоронній практиці, варто не просто поставити питання про його корисність, а глибоко замислитися над головним: як гарантувати, що в кожній конкретній справі ШІ не підмінить людську мудрість, професійний досвід, незалежність та індивідуальний підхід?

І справді, штучний інтелект поступово стає невід’ємною складовою ефективності правоохоронної діяльності загалом. Його використання в аналітичній, слідчій, оперативно-розшуковій, суддівській діяльності дозволяє значно підвищити точність прогнозування, пришвидшити обробку великих обсягів даних, а також автоматизувати рутинні процеси. Для України, яка фактично перебуває на четвертому році повномасштабної війни, технології ШІ можуть відіграти стратегічну роль у боротьбі з новими формами кіберзлочинності, виявленні гібридних загроз, таких як кібератак, маніпуляцій, економічного тиску, диверсій, використання кримінальних мереж, а також моніторингу критичної інфраструктури.

Зараз існує багато ШІ-інструментів, які можуть полегшити щоденні завдання правників: аналіз документів, підготовку контрактів та позовів, консультування клієнтів, правовий моніторинг, виявлення патернів у судовій практиці. Використання штучного інтелекту в правоохоронний практиці сьогодення вже давно не викликає жодного подиву, а навпаки є вимогою часу. Освітні платформи юридичної спрямованості та професійні організації дедалі частіше пропонують правозахисникам різні заходи і програми з навчання взаємодії з мовними моделями ШІ з метою «полегшення» роботи. Однак у гонитві за таким «полегшенням», коли представники правничої професії нерідко вдаються до креативу, ми дедалі частіше забуваємо фразу римського правника Ульпіана: «право — це мистецтво добра і справедливості», а також про те, що головним завданням права є створення суспільних норм, які відповідають принципам моралі та чесності.

Акцентуємо увагу на використанні штучного інтелекту у правосудді

Все частіше правоохоронці подають до суду як докази відповіді, згенеровані ШІ, або звертаються з клопотаннями про роз’яснення судових рішень, протиставляючи мотиви суду поясненням ШІ-асистентів. Також у процесуальних документах вони нерідко наводять визначення окремих понять чи категорій, згенеровані штучним інтелектом.

У всьому світі з’являється дедалі більше повідомлень такого характеру, тому і для України ця тема також стає актуальною. Адже впровадження технологій у правоохоронну діяльність, судочинство чи сферу досудового розслідування позиціонується як ефективний засіб їх модернізації.

Серед юристів порушуються питання: якщо штучний інтелект вже впорядковує рутинні процеси, аналізує справи та формулює рішення, тоді де пролягає межа між алгоритмами ШІ та людським рішенням? Тобто якщо раніше судова система повністю залежала від людського судження, то тепер все активніше функціонує під впливом алгоритмів.

Проаналізуємо один із головних міжнародних стандартів правосуддя — статтю 6 Європейської конвенції про захист прав людини та основоположних свобод (ЄКПЛ), яка гарантує право на розгляд справи незалежним і безстороннім судом. Хоча ані ця стаття, ані коментарі до неї не містять прямої заборони використання штучного інтелекту в сфері правосуддя, традиційне розуміння здійснення правосуддя завжди передбачає професійного суддю. Це людина, чий вердикт ґрунтується на професійній юридичній освіті, багаторічному досвіді та індивідуальному судженні, а не лише на юридичній інформації з відкритих джерел, доступних ШІ.

З огляду на сучасний етап розвитку та можливості, штучний інтелект може суттєво допомагати суддям у розгляді справ, якими перевантажені суди в будь-якій країні світу. Все більше фіксується випадків офіційного використання технологій ШІ суддями в низці європейських країн.

Деякі публічні приклади маємо і в Україні. Наприклад, під час процесу підвищення кваліфікації суддів у ВККС чи під час добору суддів до місцевих судів окремі кандидати відкрито заявляють, що використовують штучний інтелект у своїй практиці для підготовки судових рішень.

Підтвердженням цього є нещодавній З’їзд суддів України, який затвердив нову редакцію Кодексу суддівської етики. Так, уже з вересня 2024 року редакція статті 16 містить пряму норму, що регулює використання штучного інтелекту суддями. Відповідно до цих змін судді можуть використовувати технології ШІ, якщо це не шкодить їхній незалежності та неупередженості, не впливає на оцінку доказів і процес ухвалення рішень, а також не порушує вимог законодавства.

І справді, технічний прогрес спростив життя правників в юриспруденції та виглядає багатообіцяльно. Інтелектуальні системи будуть продовжувати вдосконалюватися, вивчаючи наші помилки та адаптуватися до них. Системи штучного інтелекту можуть сприяти побудові більш справедливої та ефективної правової системи, у якій рішення ухвалюються на основі об’єктивних даних і зважених аналітичних висновків.

Використання штучного інтелекту має допускатися винятково як допоміжного інструменту, що спрощує та виконує частину завдань. Адже відсутність уніфікованих правових стандартів його застосування в різних юрисдикціях створює ризики етичної й нормативної фрагментації, тому необхідно чітко визначати межі його використання.

Справді, беззаперечним є факт, що потенціал штучного інтелекту в правоохоронній практиці полягає насамперед у здатності опрацьовувати значні масиви даних, виявляючи приховані закономірності, зокрема й у злочинній діяльності.

Водночас існує небезпека надмірної автоматизації процесів, коли технологічні рішення починають витісняти людське судження, що є неприпустимим у сфері, де ключову роль відіграють морально-етичні та правові критерії оцінки.

Також стрімко зростає кількість випадків, коли юристи у своїй практиці піддаються значній спокусі делегувати штучному інтелекту складання відповідей на ті чи інші юридичні питання та надмірно покладатися на згенерований ним контент, що може підірвати людський елемент професії.

Відтак з’являється ризик, що рішення у юриспруденції ґрунтуватимуться не на об’єктивному правовому тлумаченні та самостійній оцінці юристів, а на інерції алгоритму. Це створює небезпечний прецедент, коли технологія починає диктувати свої висновки з тих чи інших питань у формі довільної уніфікації. Ми маємо пам’ятати, що кожна ситуація, яка потребує юридичного обґрунтування, має розглядатися неупереджено та з урахуванням її унікальності.

Маючи власний досвід використання ШІ, можу з упевненістю стверджувати: серед помилок, яких припускаються чат-боти, можуть бути неправильне використання джерел або змішування відповідей. Інколи чат-боти використовують вигадані деталі разом зі справжніми особисті дані людини, що робить інформацію правдоподібною. Старі новини подекуди подаються як актуальні, або ж змішується інформація з останніх новин із застарілими даними. Все це демонструє наскільки небезпечними може бути так звані «галюцинації» ШІ, особливо коли йдеться про права людини. Тому завжди раджу перевіряти посилання на джерела: закони, судові рішення та інші першоджерела, адже відповідальність за точність та коректність будь-якого документа чи поради несе його автор, а не система ШІ.

Як висновок, для вирішення ситуації правникам потрібно відкинути ілюзію, що штучний інтелект може виконати завдання, на яке не здатна сама людина. Адже за такого підходу доведеться витратити значну частину часу на перевірку інформації, виданої ШІ, під час складання рішення, запиту чи іншого юридичного документа.

Важливо змістити фокус з абстрактного поняття «упередженості» на першоджерела цієї проблеми — «дані». Проблема полягає не в тому, що сама модель штучного інтелекту є упередженою, а в тому, що вона навчається на інформації, яка вже містить усталені суспільні наративи.

Розглядаючи цей ризик, можна стверджувати, що використання ШІ в цьому контексті більше відповідає англосаксонській системі права, в основі якої лежить судовий прецедент. У ній норми, сформовані суддями у своїх рішеннях, беруться з рішень подібних справ і стають обов’язковими для вирішення аналогічних справ у майбутньому.

Однак з іншого боку ключовою особливістю англосаксонської системи права є провідна роль судів у правотворчості, що охоплює право справедливості та статутне право, і це аж ніяк не притаманне ШІ.

Аналізуючи важливість забезпечення прозорості та справедливості в діяльності правоохоронних, судових органів зокрема щодо індивідуального підходу, можна цілком стверджувати, що технологія ШІ не здатна до самоаналізу чи критичної рефлексії. Вона просто виконує те, що їй наказано, спираючись на дані, на яких її було навчено. Правоохоронна діяльність, на відміну від суто логічного застосування норм, вимагає глибокої моральної, соціальної та емоційної оцінки ситуацій, які часто є вирішальними для ухвалення відповідного рішення. І якщо не буде застосовано механізмів для розпізнання та виправлення упереджень на рівні даних, існує високий ризик автоматизувати та узаконити ідентичність у вирішенні схожих і водночас різних правових питань.

Штучний інтелект є потужним інструментом модернізації системи правоохоронних, судових органів, здатним значно підвищити рівень аналітичної та превентивної роботи, однак його впровадження потребує обережності, нормативного контролю та суспільного діалогу. Технології не повинні підміняти людське судження або руйнувати фундаментальні принципи правової держави, а оптимально врегульоване використання інтелекту може стати запорукою ефективного, справедливого та прозорого правозастосування, у якому високі технології служать людині, а не навпаки.

Чи маємо ми відповідне правове регулювання штучного інтелекту в Україні?

Ні. Адже стрімке впровадження процесів цифровізації в роботу правоохоронних органів — поліції, прокуратури, суду, прикордонної та антикорупційних служб — супроводжується низкою викликів, зокрема слабким контролем за алгоритмами, незахищеністю каналів обміну даними, потенційними маніпуляціями з боку третіх сторін. Усе це створює передумови для зловживань і порушення прав людини, причиною чого є відсутність належного правового регулювання. Питання щодо формування нормативної бази з регулювання технологій штучного інтелекту відбувається одночасно як на загальноєвропейському рівні, так і в державах-членах. Сучасний розвиток технологій штучного інтелекту викликав жваві дискусії в юридичному середовищі і це доволі актуально. Значну увагу цьому питанню приділяють такі країни, як Велика Британія, Канада, Об’єднані Арабські Емірати та Сполучені Штати Америки.

Яким шляхом рухатись Україні?

Насамперед пріоритетом такого підходу має стати встановлення етичних стандартів впровадження штучного інтелекту.Вкрай важливо вивчити європейський і світовий досвід та на основі найкращих практик підготувати законодавче регулювання питань ШІ в Україні.

Адже об’єднання зусиль усіх зацікавлених сторін, зокрема дослідників, розробників, лідерів галузі права, організацій громадянського суспільства, робочих групи та ініціатив на всіх рівнях сприятиме гармонізації правової політики в цій сфері, підготовці належного законодавчого забезпечення та захисту прав людини під час використання штучного інтелекту.

І діяти потрібно вже! Навіть якщо на певному етапі буде розроблене та запроваджене окреме законодавство, Україні в кінцевому підсумку тимчасово доведеться все ж таки запроваджувати європейське. Їхній досвід у подоланні технічних труднощів, а також навички впровадження юридичних і регуляторних стандартів у цій сфері мають стати орієнтиром для України, тим більше що курс на європейську інтеграцію закріплений у Конституції України.

Тому перш ніж українські правники перейдуть на етап імплементації європейського законодавства, можна розглянути перших три етапи.

Перший — донести до громадськості переваги і ризики використання штучного інтелекту. Необхідно створити громадянам гарантії захисту їхніх прав та конфіденційності при застосуванні цих технологій. Такі зміни мають враховувати стандарти використання ШІ до поточної ситуації в Україні.

Другий етап — переглянути норми законодавства в питаннях захисту персональних даних та прав людини й забезпечити його узгодження з розвитком технологій штучного інтелекту та внести відповідні зміни. Важливо виявити головні прогалини в законодавстві й створити правила, які заохочують відповідальні інновації та етичне використання ШІ.

І третій етап — слід побудувати низку принципів у використанні штучного інтелекту в правоохоронній сфері, зокрема принцип законності, пропорційності, прозорості та людського контролю. Кожен випадок застосування ШІ повинен мати чітку правову підставу, передбачену законом, а обсяг втручання у приватне життя має бути мінімально необхідним для досягнення легітимної мети. Остаточне рішення у кримінальному провадженні повинно належати особі, яка усвідомлює правові наслідки своїх дій і несе за них відповідальність.

У цьому контексті доцільним було б розроблення комплексної державної стратегії правового регулювання штучного інтелекту в сфері правосуддя та правоохоронної діяльності. Така стратегія має базуватися на міжнародних стандартах, визначених у рекомендаціях Ради Європи, Європейського парламенту, ЮНЕСКО та ООН, які наголошують на необхідності етичного, прозорого й підзвітного використання технологій.

Тому вкрай важливо, щоб українське законодавство адаптувалося до цих принципів, встановивши баланс між ефективністю правоохоронної діяльності та гарантіями прав людини.

Окремо слід приділити увагу питанню юридичної відповідальності у разі помилки штучного інтелекту.

Оскільки ШІ не є суб’єктом права, відповідальність за його дії повинна покладатися на конкретних осіб — розробників, операторів або правоохоронців чи суддів, які прийняли рішення про використання системи. Водночас українське законодавство поки не містить спеціальних норм, що визначають порядок такого розмежування, що створює ризики для правозастосування та правової визначеності.

З цього приводу юристам держави слід активно попрацювати, адже стрімкий розвиток технологій ШІ в найближчому майбутньому може суттєво витіснити людський фактор.

Наразі підписані меморандуми між Україною то ЄС закріплюють лише наміри сторін розвивати довгострокову співпрацю з метою залучення українських правників до процесів розробки етичних принципів і регулювання ШІ на міжнародному рівні, направлені на здобуття міжнародної практики. Тому підготовка державних службовців, юристів, правоохоронців та суддів у використанні штучного інтелекту з урахуванням його етичних аспектів має бути одним із пріоритетів країни. Правова робота у вказаній сфері має регламентуватися не лише посібниками з відповідального використання штучного інтелекту, а низкою законодавчих актів. Адже вкрай важливо, щоб у правоохоронній практиці під час ухвалення рішень забезпечувалася пропорційність правового впливу та уникалися як надмірне втручання, так і його недостатність з боку держави. Не менш важливими є рівність сторін перед законом, передбачуваність правових наслідків, чесність, уміння управляти емоціями, уникати поспішних рішень у стані сильного стресу та зважувати можливі наслідки для всіх сторін. При цьому необхідно враховувати суспільні норми, не забувати про власну інтуїцію та брати відповідальність за кінцевий вибір.