Принципи за надежден изкуствен интелект

През 2019 г. експертната група на високо равнище по въпросите на изкуствения интелект към Европейската комисия (ЕГВР ИИ) публикува своите "Насоки относно етичните аспекти за надежден ИИ". Това е един от основополагащите документи и до днес относно етичните изисквания към изкуствения интелект.

Насоките формулират седем основни изисквания за надежден ИИ, които трябва да бъдат спазвани на всеки етап от жизнения цикъл на една система – от проектирането и внедряването до практическото приложение в реалната среда.

Тези изисквания са:

1. Човешки фактор и надзор - вижте статията ни тук

2. Техническа стабилност и безопасност - вижте статията ни тук

3. Управление на данните и неприкосновеност на личния живот - вижте статията ни тук

4. Прозрачност

5. Многообразие, недискриминация и справедливост - вижте статията ни тук

6. Обществено и екологично благополучие - вижте статията ни тук

7. Отчетност - вижте статията ни тук

В този блог разглеждаме четвъртия принцип, а именно прозрачността.

Какво означава принципът за прозрачност?

Прозрачността в изкуствения интелект (ИИ) означава яснота и откритост относно това как алгоритмите функционират, какви данни използват и как вземат решения. Тя представлява не просто обяснимост на отделните резултати, а обхватна информация за дизайна, данните, процесите и целите на системата.

Прозрачността при разработването и използването на системи с ИИ е от изключително значение по следните причини:

• Разбиване на „черната кутия“
  Много ИИ системи действат като непроследими „черни кутии“, чиито вътрешни логики са трудни за разбиране. Прозрачността позволява да отворим тази кутия и да разберем механизмите зад решенията на системата.

• Доверие, контрол и съответствие
  В условия на растяща регулация, включително и в рамките на Европейския съюз, прозрачността е ключов елемент за изграждане на доверие и осигуряване на съответствие със законодателството.

• Гъвкавост и отчетност
  Прозрачността не е просто техническа характеристика. Тя включва управление на данните, ясно формулиране на цели, постоянен диалог със заинтересованите страни и предоставяне на информация на различни нива—от потребители до контролни органи

Три аспекта на прозрачността

Според Насоките относно етичните аспекти за надежден ИИ, принципът за прозрачност в контекста на надеждния изкуствен интелект има 3 основни измерения.

Проследимост

Проследимостта означава, че данните и процесите, които са довели до дадено решение на система с ИИ, трябва да бъдат документирани. Това включва както източниците на данни и начина на тяхното етикетиране, така и алгоритмите, които са били използвани. По-конкретно това изисква:

• да се знае какви данни са използвани за обучение на модела;

• да има запис кои алгоритми са приложени;

• да се съхраняват междинните етапи на обработка.

Цел: да се установят причините при грешки и да се предотвратят бъдещи неточности.

Обяснимост

Обяснимостта се отнася до способността системата да предоставя разбираеми причини за своите решения. Това не означава непременно разкриване на целия програмен код, а възможност за човешко разбиране на логиката.

Цел: решенията на ИИ да могат да бъдат разбрани и проверени.

Комуникация

Комуникацията е свързана с ясното обозначаване, че човек взаимодейства с ИИ. Това гарантира:

• че потребителите не са подведени да вярват, че говорят с човек;

• че те имат информация за ролята на системата в процеса на вземане на решения;

• че знаят какви са границите на отговорността.

Цел: хората да бъдат информирани, че резултатите, които получават, идват от система с ИИ, и да разбират логиката зад тях.

Прозрачност на практика

Прозрачността се превръща в реална стойност, когато е заложена в ежедневната работа със системи с изкуствен интелект. Това изисква съзнателен избор на технологии, които показват ясно как функционират, и прилагане на конкретни практики от страна на организациите. На практика прозрачността може да се достигне по множество начини, включително:

• Задаване на въпроси
  Потребителите трябва да могат да питат: „На какво се базира този отговор?“, „Кои източници са използвани?“. Системите с ИИ следва да предоставят разбираеми обяснения и препратки към данни.

• Документиране на процесите
  Организациите трябва да поддържат ясни вътрешни политики за внедряване на ИИ, както и регистър на използваните данни и алгоритми. Това улеснява контрола и предотвратява риска от „черни кутии“.

• Информиране на потребителите
  Всеки трябва да знае кога общува с ИИ, какви са възможностите и ограниченията на системата и докъде се простира отговорността.

Прозрачността не е просто добра практика, а критерий за избор. Системи като Правен интелект са изградени така, че да показват на какви данни и логика се основават техните отговори. Това гарантира доверие, сигурност и контрол, което е особено важно в условия на бързо развиващи се технологии и строги регулаторни изисквания.

Пример как Правен Интелект ви позволява лесно да видите всички документи, на които се основава отговорът на системата, включително с препратки към конкретния член и параграф от източниците.

❇️ Пробвайте Правен Интелект сега! ❇️