Велислава Делчева: Решенията за гражданите трябва да се вземат от човек

Изкуственият интелект (AI) все по-често навлиза в работата на институциите и бизнеса, но използването му крие и рискове за правата на гражданите. За това предупреди в „Интервюто в Новините на NOVA“ омбудсманът Велислава Делчева.

Все повече държавни институции получават писма и жалби, изготвени с помощта на AI. Според Делчева самото използване на подобни инструменти от гражданите не е проблем. По-сериозните предизвикателства възникват, когато изкуственият интелект започне да участва във вземането на решения, които могат да засегнат правата и свободите на хората. „Проблемът не е в това, че гражданите използват AI, за да изпращат жалби към институциите. По-големият проблем ще възникне тогава, когато институциите или частният бизнес започнат да използват AI, за да вземат решения, свързани с живота на гражданите“, заяви омбудсманът.

По думите ѝ в частния сектор изкуственият интелект вече се използва в различни етапи от процеса по подбор на служители – от създаването на обяви за работа и подготовката на тестове до провеждането на интервюта и оценяването на кандидатите. Това поставя важния въпрос кой всъщност взема окончателното решение за назначаването на даден човек и доколко процесът е прозрачен и справедлив.

Един от основните рискове е възможността алгоритмите да възпроизвеждат дискриминационни критерии. Ако например в дадена система бъдат заложени условия, които поставят кандидатите над определена възраст в неизгодно положение, това може да засегне правото им на труд. „Когато става въпрос за вземане на решения, човекът, който е създал системата с AI, е задал определени критерии, които биха могли да бъдат дискриминационни. Следователно, когато взема решение, изкуственият интелект също може да наложи дискриминация“, посочи Делчева.

Тя подчерта, че технологиите могат да бъдат полезни при обработването и обобщаването на големи обеми от информация, но не бива да изместват човешката преценка в решенията, които засягат живота на гражданите. Според омбудсмана е необходимо да има ефективен контрол върху начина, по който системите с изкуствен интелект влияят върху човешките права.

Делчева обърна внимание и на необходимостта от подходяща правна рамка и достатъчно правомощия за институциите, които защитават гражданите. При съмнения за нарушени права хората трябва да имат възможност да потърсят съдействие и защита. „Най-важното, което трябва да направим като общество, е да използваме възможностите на AI. Но винаги, когато се вземат решения, те трябва да бъдат вземани от човек. Човекът трябва да остане в центъра на този процес“, заяви омбудсманът.

Според нея защитата на гражданите в условията на бързо развиващи се технологии ще изисква все по-активна работа от страна на омбудсмана и останалите правозащитни институции. Основното предизвикателство е AI да се използва като средство за улеснение и развитие, без това да става за сметка на човешките права и равнопоставеността.

Теми: Велислава Делчеваизкуствен интелектомбудсманподбор на служителичовешки права