Регламентът за изкуствения интелект и какво да очакваме от него?
1.Увод.
Изкуственият интелект стана буквално новата реалност на третото хилядолетие, като той вече присъства постоянно като технологично решение в множество устройства, бизнеси, социални решения, като „лицето му“ наднича и от индустрията и медицината. Всичко това налага изграждане на адекватна законодателна рамка не само на национално, но и на мултинационално ниво, с ясната осъзнатост за сложността на проблема от юридическо и технологично естество, както и презюмираните общочовешки, философски, социални и чисто прагматични въпроси „за“ и „против“, които следва да попаднат като решение във въпросната нормативна рамка. Радвам се да отбележа, че Европа бързо реагира на това ново предизвикателството и работата по глобално, общоевропейско законодателно планиране започна още преди няколко години.
В крайна сметка през декември 2023г. парламентаристите на Европейския съюз се споразумяха за мащабен нов международен акт за регулиране на изкуствения интелект - един от първите в света цялостни опити за ограничаване на използването на бързо развиваща се технология, която има широкообхватни обществени и икономически последици. Регламентът за определяне на хармонизирани правила относно изкуствения интелект (наричан още „Законодателен акт за изкуствения интелект“ или от англ. “АI act”), определи нов глобален критерий за държавите – членки на ЕС, които са твърдо решени да поставят юридическия фондамент на потенциалните ползи от технологията, като същевременно се опитват да се предпазят от възможните рискове, свързани с нея, като автоматизиране на работни места, разпространение на дезинформация онлайн и застрашаване на националната сигурност. В момента Регламентът преминава през няколко финалнистъпки по юридическо съгласуване и изчистване на детайли в Европейския парламент, но наличното политическо споразумение означава, че основните му насоки са определени.
Към настоящия етап работата на европейските парламентаристи се съсредоточава върху дефиниране на най-рисковите употреби на изкуствения интелект от страна на компаниите и правителствата, включително тези за правоприлагането и управление на ключови услуги като водоснабдяване и енергетика. Достигнатият и вложен смисъл в текстовете на Регламента показва и че създателите на най-големите системи за изкуствен интелект с общо предназначение, като тези, които захранват чатбота „ChatGPT“, ще бъдат изправени пред нови изисквания за прозрачност. Чатботовете и софтуерът, които създават манипулирани изображения – т.нар "дълбоки фалшификати"(от англ.“deep fake”), ще за задължени ясно да посочват, че това, което хората виждат, е генерирано от изкуствен интелект, според официални представители на ЕС и по-ранни проекти на закона.
От друга страна следва да се подчертае, че от съображения за сигурност, използването на AI софтуер за разпознаване на лица за криминалистични цели от полицията, както и за целите на сигурността от правителствата ще бъде ограничено до определени изключения, свързани с безопасността на гражданите и националната сигурност. Предвиждат се и конкретни санкции за нарушаване на Регламента, като компаниите, които нарушават разпоредбите му, могат да бъдат глобени с до 7 % от световните си продажби. Въпреки че Регламентът беше приветстван като един вид пробив в нормативната уредба за най-съвременната технология с света, останаха въпросителни относно неговата ефективност. Много от правните норми се очакваше да влязат в сила едва след предвиден vacatio legis oт 12 до 24 месеца – период, който ще даде от една страна значителен тласък на машинното обучение(от англ. „machine learning”), касаещо развойна дейност и разработване на изкуствени интелекти, както и точно и ясно осъзнаване и осмисляне на юридическата проблематика по темата. Ето защо буквално до последната минута на преговорите европейските политици себореха за формулировките в Регламента и за това как да се постигне максимален баланс между насърчаването на иновациите и необходимостта от предвиждане на всички възможни косвени юридически и технологични вреди.
Постигнатият консенсус по основните текстове на Регламента за определяне на хармонизирани правила относно изкуствения интелект отне три дни преговори в Брюксел, които започнаха на 5 декември 2023г с първоначална двадесет и два часова сесия на Европейския парламент. Окончателното споразумение не беше оповестено веднага, тъй като се очакваше разговорите да продължат зад кулисите, за да се довършат техническите подробности, което може да забави окончателното приемане. Окончателното гласуване се очаква през 2024г. и трябва да се проведе в Парламента и в Европейския съвет, който се състои от представители на 27-те държави-членки в съюза.
Коректно е да се отбележи, че всъщност регламентирането на изкуствения интелект придоби спешна актуалност едва след стартирането на ChatGPT през 2022г., чиято функционалност и приложение откри мащабна дискусия относно евентуалните последици и това го превърна в световна сензация, демонстрирайки технологичните достижения на изкуствения интелект в 21 век. Предвижданията сочат, че икономическият ефект от въвеждане на технологията в индустрията, бизнеса, социалните услуги, гражданското общество и роботиката ще придобие пазарен дял от трилиони долари, тъй като се предвижда изкуственият интелект да промени глобалното разбиране за понятието „икономика“. По темата Жан-Ноел Баро - министърът на цифровите технологии на Франция заяви, че в настоящето, технологичното господство предхожда икономическото и политическото – факт, който днес е повече от очевиден.
2.Предистория на законодателния процес.
Както вече отбелязах на 8 декември 2023г. Европейският парламент официално постигна предварително споразумение със Съвета относно Регламента за определяне на хармонизирани правила относно изкуствения интелект (от англ. “AI Act”). С това споразумение реалноЕвропейският съюз въвежда първия в света всеобхватен юридически, законодателен акт относно изкуствения интелект. Този забележителен по своите правни и технологични постижения Регламентзасега е в заключителен етап от приемането си, тъй като все още се очаква финално да бъде ратифициран от Парламента и Съвета. По своята правна същност Регламента за изкуствения интелект има за цел да гарантира благосъстоянието и основните права и задължения на гражданите на ЕС, като създава прецедент за глобалното управление на изкуствения интелект.
През април 2021 г. Европейската комисия за пръв път стартира разискването над предложения за регулаторна рамка на Европейския съюз, касаещи изкуствения интелект ("ИИ"). Основната цел бе да се класифицират различните системи за ИИ в зависимост от риска, който те биха представлявали за потребителите. Различните нива на риск предвиждат повече или по-малко регулиране в регламента, което като замисъл в практично и отговаря на реалността и ползването на технологиите. След като бъде официално приет, Регламентът за изкуствения интелект ще бъде първият в света набор от юридически правила, регламентиращи ИИ технологии. Тук ми се иска да изчерпя и представя в пълнота процеса на приемане, съдържанието и потенциалните проблеми, свързани със Регламента за изкуствения интелект.
2.1.Регламентът за изкуствения интелект и неговите цели.
Регламентът за изкуствения интелект е правна рамка, която регулира комерсиализацията в различни хипотези и използването на изкуствен интелект в ЕС. Основната му цел е да гарантира правилното функциониране на вътрешния пазар на ЕС чрез установяване на последователни стандарти за системите, функциониращи под изкуствен интелект в държавите членки на ЕС. Предложението е в изпълнение на политическия ангажимент на председателя на Европейската комисия Урсула фон дер Лайен, която обяви в политическите си насоки за периода 2019—2024 г., пода наименованието „Съюз с по-големи амбиции“ , че Комисията ще предложи законодателство за координиран европейски подход към човешките и етичните аспекти на ИИ. В продължение на това съобщение на 19 февруари 2020 г., Комисията публикува бялата книга относно ИИ – „Европа в търсене на високи постижения и атмосфера на доверие“. В тази „бяла книга“ се определят варианти на политиката за това как да се постигне двойната цел за насърчаване на внедряването на ИИ и за справяне с рисковете, свързани с някои приложения на тези технологии. Задачата на Регламента е да предложи правна рамка за надежден ИИ, както и да изпълни втората цел за създаване на екосистема на доверие у гражданите на ЕС по отношение на новите технологии. В основата на предложението са ценностите на ЕС и основните права, като целта му е да даде на отделния човек и на другите ползватели увереност да възприемат решения, основани на ИИ технологии и същевременно да насърчи предприемачите да разработват такива решения. Основната концепция на Регламента е, че ИИ следва да бъде инструмент на разположение на човека и движеща сила за благото на обществото, като крайната цел е да се постигне по-голямо човешко благополучие. Поради това правните норми, касаещи ИИ, предлаган на пазара на Съюза или засягащ по друг начин лица в Съюза, следва да бъдат ориентирани към човека, така че хората да имат увереността, че технологията се използва по безопасен и съответстващ на закона начин, включително по отношение на зачитането на основните права на личността. След публикуването на бялата книга, Комисията инициира консултации на широка основа със заинтересованите страни. Те бяха посрещнати с голям интерес от голям брой заинтересовани страни, които като цяло подкрепиха регулаторната намеса за справяне с предизвикателствата, но и опасенията, породени от нарастващото използване на ИИ.
Напрактика Регламентът е първият всеобхватен нормативен акт за справяне с рисковете, свързани с изкуствения интелект, чрез набор от права и задължения, както и изисквания и санкции, предназначени да защитават здравето, безопасността и основните права на гражданите на ЕС и извън него, т.е този законодателен акт се очаква да окаже абстрактновъздействие върху глобалното управление на ИИ в международен аспект.
Приоритетът на Европейския парламент в този контекст е да гарантира, че системите за ИИ, използвани в ЕС, са безопасни, прозрачни, проследими, недискриминационни и щадящи околната среда, както и охраняващи правата на европейските граждани. За да се предотвратят непредвидими, косвени резултати, европейският законодател предвижда, че системите за ИИ следва да се управляват от хора, а не от автоматизирани софтуерни системи. В много страни по темата се отвори и дебат за философия на алгоритмите, които стоят зад изкуствения интелект, като те трябва да бъдат насочени към основните принципи за хуманност, справедливост и законност. В този ред на мисли Европейският парламент създаде едно неутрално (по отношение на технологиите), стандартно определение за ИИ, което да може да се прилага в абстрактен смисъл към всички бъдещи системи за ИИ.
2.2. Процес на внедряване.
Първоначално предложена от Европейската комисия през април 2021г.[1], политиката на общ подход към изкуствения интелект беше приета от Европейския съвет през 2022г.[2], а на 14 юни 2023 г. членовете на Европейския парламент приеха преговорната позиция на Парламента относно Регламента за изкуствения интелект, като в момента се провеждат финални обсъждания между държавите-членки на ЕС и Съвета относно окончателния вид на документа в рамките на т.нар „тристранно договаряне“.
Предварителното споразумение беше официално постигнато на 9 декември 2023 г. между Съвета и Парламента, като единствената стъпка, която остава в законодателния процес е комисиите по вътрешен пазар и граждански свободи на Парламента да гласуват съвместно споразумението на предстоящо заседание. Всичко това логично означава, че европейското законодателството за изкуствения интелект окончателно ще бъде прието в началото на 2024г., като се очаква това да се случи преди изборите за Европейски парламент през юни. Приемането му ще бъде последвано от преходен период(vacation legis) от поне 18 месеца, преди Регламентът за изкуствения интелект да започне да се прилага в пълнота. Все още обаче има съществени различия в предложенията, особеноотносно тези, които касаят детайлно технически разпоредби, както и тези, визиращи юридическитеопределения на някои процеси и прилагането им.
3.Динамика на законодателния процес.
Регламентът за изкуствения интелект обхваща системите, които функционират и са базирани на него, т.е тези, които са "пуснати на пазара, влезли за в експлоатация или вече използвани в ЕС"[3]. Това на абстрактно ниво означава, че коментираният общоевропейски нормативен акт ще се прилага не само за бизнеси, разработчици и физически лица -потребители в ЕС, но и за глобални доставчици, които продават или по друг начин предоставятза ползване свои технологии, функциониращи чрез изкуствен интелект или неговите резултати на потребителите в ЕС с три изключения: ИИ, разработен за военни цели; ИИ за научни изследвания и свободни системи и компоненти на ИИ с отворен код - термин, който все още не е ясно дефиниран.
В този контекст разпоредбите на Регламента за изкуствения интелект имат няколко основни цели:
- да се дефинират рисковете, породени от ИИ;
- да се определят категориите рискове;
- да се установят ясни изисквания и задължения за системите, функциониращи чрез ИИ и техните доставчици;
- да се предложи оценка и правоприлагане, насочени към системите за ИИ;
- да се предложи структура за управление на системите, работещи със изкуствен интелект на европейско и национално равнище.
В обобщение може да се каже, че основната цел на Регламента за изкуствения интелекте да установи задължения за доставчиците и потребителите в зависимост от нивото на риска, породен от изкуствения интелект, като споменатите нива са разделени на четири различни (рискови) категории:
3.1. Системи за изкуствен интелект с неприемливо ниво на риск за безопасността на хората. Системите, които представляват това ниво на риск, са както следва:
- системи, касаещи когнитивно-поведенческа манипулация на хора или специфични уязвими групи;
- системи за социално оценяване: класифициране на хора въз основа на поведение, социално-икономически статус или лични характеристики
- системи за биометрична идентификация в реално време и от разстояние, като например разпознаване на лица;
- системи за биометрична категоризация, които използват чувствителни характеристики (напр. политически, религиозни, философски убеждения, сексуална ориентация, раса);
- системи за нецеленасочено извличане на изображения на лица от интернет или записи от видеонаблюдение за създаване на бази данни за разпознаване на лица;
- системи за разпознаване на емоции на работното място и в образователните институции;
- системи за изкуствен интелект, които манипулират поведението на хората, за да заобиколят свободната им воля;
- системи с изкуствен интелект, използван за манипулиране уязвимостта на хората (поради тяхната възраст, увреждане, социално или икономическо положение).
Всички подобни системи, които съдържат в себе си или работят чрез изкуствен интелект като метод на оценка на информация са забранени[4]. Естествено са предвидени и глоби за участие в забранени практики в областта на ИИ. Това поведение може да доведе до санкция в размер до 40 млн. евро или до 7 % от глобалния годишен оборот на дружеството, в зависимост от това коя сума е по-висока. Въвежда се и принцип за пропорционалност на глобите, които ще отчита пазарната позиция на доставчиците на стоки и услуги, работещи под изкуствен интелект, което предполага, че може да има по-гъвкави правила за стартиращи предприятия. Размерът на глобите все още е обект на обсъждане в тристранните консултации.
3.2. Високорискови системи, които оказват отрицателно въздействие върху безопасността или основните права. Системите, които представляват това ниво на риск, са:
- Системи за изкуствен интелект, които се използват в продукти, попадащи в обхвата на законодателството на ЕС, касаещо безопасност на продуктите. Това включва играчки, авиация, автомобили, медицински изделия и асансьори;
- системи с изкуствен интелект, попадащи в осем специфични области, които ще трябва да бъдат регистрирани в база данни на ЕС.
Правно регулиране на коментираните високорискови системи от Регламента предвижда разрешителен режим, след оценка на въздействието им преди и след пускането на пазара. Тази оценка ще включва стриктно тестване, документиране на качеството на данните и рамка за отчетност, включваща човешки надзор. Доставчиците на високорискови ИИ ще трябва да регистрират своите технологии в база данни на ЕС, управлявана от Комисията, преди да ги пуснат на пазара. Доставчиците от държави извън ЕС ще трябва да имат упълномощен представител в ЕС, който да докаже съответствие и наблюдение след пускане на пазара на подобни технологии.
3.3. Системи с ограничен риск. Системи, представляващи това ниво на риск са:
- Системи с изкуствен интелект, които генерират или манипулират изображения, аудио и видео съдържание, както и чатботове.
Визираните системи са разрешение, като за тях се изискват минимални технологични мерки за прозрачност, които биха позволили на потребителите да направят информиран избор. След като взаимодейства с приложенията, потребителят може да реши дали иска да продължи да ги използва. Потребителите също така следва да бъдат информирани, когато взаимодействат с такъв тип изкуствен интелект. Изискванията за прозрачност следва да отговарят на следните правила:
- оповестяване на факта, че достъпеното съдържание е генерирано от ИИ;
- проектиране на модела на ИИ, за да се предотврати генерирането на незаконно съдържание[5];
- публикуване на резюмета на защитените с авторски права данни, използвани за обучение.
3.4. Системи с изкуствен интелект с минимален (нисък) риск. Системи, представляващи това ниво на риск са:
- системи, генериращи изкуствен интелект (напр. ChatGPT). Тези системи не търпят каквито и да е юридически или технологични ограничения, тъй като тяхното използване обикновено носи единствено и само ползи. Моментното развитие на ChatGPT сочи, че той се използва по-скоро за целите на събиране и анализ на информация, като той не може да доведе до някакъв научен принос от компилираните бази данни, като спекулациите в обратната посока са необосновани. Все пак използването на изкуствен интелект в науката дава все по-добри резултати именно при анализа, като едни от последните постижения по темата е изобретяването на нови лекарства за рак именно с помощта на изкуствения интелект.
4.Заключение.
Въпреки първоначалния скептицизъм към технологиите и системите, съдържащи изкуствен интелект, моето скромно мнение на човек, които изцяло професионално се занимава с иновации е, че те бележат бъдещето. В самата зора за изкуствения интелект като развойна дейност, множество водещи европейски бизнес лидери оттеглиха подкрепата си за предложения от ЕС Регламент за изкуствения интелект, като наведоха твърдения, че той може да навреди на конкурентоспособността на ЕС и да доведе до отлив на инвестиции. Мотивът на тези субекти бе стъпил на виждането, че проектоправилата отиват твърде далеч, особено в регулирането на генеративните модели на изкуствен интелект - технологията, която стои зад популярни платформи като ChatGPT.
Изследвания на самия Европейски парламент опровергаха това виждане, като парламентаристи в лицето например на Рене Репаси обявиха, че няма нужда от каквито и да е опасения, тъй като европейският пазар от над 450 милиона потребители е твърде привлекателен, за да могат доставчиците на изкуствен интелект да го заобиколят, а Парламента да не се справи с неговата регулация.
По темата евродепутатите предвидиха и юридически инструменти, на базата на коитогражданите на ЕС да подават жалби относно системите за изкуствен интелект и да получават обяснения за решения, основани на високорискови системи за изкуствен интелект, които значително засягат техните основни, граждански права. Членовете на Европейския парламент се постараха и да реформирата ролята на Службата на ЕС за изкуствен интелект, която ще следи стриктно за прилагането на Регламента.
Естествено Регламента за изкуствения интелект предвижда и освобождаване от отговорност на правоприлагащите органи при използване на изкуствен интелект. Тук се предвиждат редица предпазни мерки и тесни изключения за използването на биометрични системи за идентификация (БИИ) в публично достъпни пространства за целите на правоприлагането, при условие на предварително съдебно разрешение и за строго определени списъци с престъпления.Отдалеченият достъп чрез биометрични системи с изкуствен интелект ще се използват стриктно при целенасочено издирване на лице, осъдено или заподозряно в извършването на тежко престъпление, като подобни действия на правоприлагане ще отговарят на строги условия и използването им ще бъде ограничено по време и място, за целите на:
- целенасоченото издирване на жертви (отвличане, трафик, сексуална експлоатация);
- предотвратяване на конкретна и настояща терористична заплаха, или- локализиране или идентифициране на лице, заподозряно в извършването на някое от специфичните престъпления, посочени в Регламента (напр. тероризъм, трафик, сексуална експлоатация, убийство, отвличане, изнасилване, въоръжен грабеж, участие в престъпна организация, престъпления срещу околната среда).
Наличието на всички тези стриктно регламентирани като хипотеза изключения от общите принципи за спазване на основните граждански права, прозрачност и отчетност при използване на технологии, работещи с изкуствен интелект, ми дава увереност, че те наистина са бъдещето на едно по-справедливо правоприлагане, публични услуги, научна и развойна дейност, здравеопазване и изследвания за решаване на тежки клинични проблеми, включително дистанционни операции, изследвания и т.н, развитие на индустриалната и битовата роботика, генетика и високотехнологично селско стопанство. Нетърпението ми към приемането на Регламента е огромно, защото е предизвикано и от професионални съображения – например как той ще бъде приложен в българското не толкова иновативно „правосъдие“, което все още вярва например, че домейнът не е обект на търговска марка и не предприема каквито и да е стъпки в насока на това въпросното „виждане“ да се промени в третото хилядолетие. Точно това „правосъдие“ много скоро може бъде управлявано от изкуствения интелект и знае ли се – утре всъщност именно по тази причина съдии е логично да няма, защото изкуственият интелект няма да допусне каквато и да е подобна грешка, а просто ще анализира един законодателен акт и ще постанови решение! Същото ще се случи по мое мнение с нотариусите и частните съдебни изпълнители, чиято работа лесно може да бъде написана в един логичен алгоритъм с изкуствен интелект. Аз лично съм за!
Автор: адв. Атанас Костов
[1] Първоначалният документ на "Регламент на Европейския парламент и на Съвета - за определяне на хармонизирани правила относно изкуствения интелект и за изменение на някои законодателни актове на Съюза", Брюксел, 21.4.2021 г., 2021/0106 (COD), може да бъде намерен на следния линк: eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC0206;
[2] Виж „Предложение за регламент на Европейския парламент и на Съвета за определяне на хармонизирани правила относно изкуствения интелект (Акт за изкуствения интелект) и за изменение на някои законодателни актове на Съюза", Брюксел, 25.11.2022 г., 14954/22, линк: data.consilium.europa.eu/doc/document/ST-14954-2022-INIT/en/pdf;
[3] Повече подробности по темата виж в "Регламент на Европейския парламент и на Съвета - за установяване на хармонизирани правила относно изкуствения интелект (Акт за изкуствения интелект) и за изменение на някои законодателни актове на Съюза", Брюксел, 21.4.2021 г., 2021/0106 (COD), линк:eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CELEX:52021PC0206.
[4] Допускат се и определени изключения от това правило – например, касаещи системи за дистанционна биометрична идентификация, при които идентификацията се извършва след значително забавяне. Те ще бъдат разрешени за използване, само с цел преследване на тежки престъпления, но след изрично разрешение от съда.
[5] Например, когато се използват системи с изкуствен интелект, като чатботове, потребителите трябва да са наясно, че взаимодействат с машина, за да могат да вземат информирано решение да продължат или да се оттеглят.