Агенция на ЕС призова за по-стриктни правила при разработка на AI
Агенцията на ЕС за основните права (FRA) публикува доклад, предупреждаващ за липса на реална оценка относно въздействието, което могат да имат изкуственият интелект (AI) и автоматизацията върху човешките права.Докладът, озаглавен "Да поправим бъдещето", предупреждава, че макар AI понякога да е полезен, той също така може да доведе до дискриминация. От агенцията искат политиците да предоставят повече насоки за това как съществуващите правила се прилагат към AI и да гарантират, че всички бъдещи закони в сферата ще защитават основните права.
"AI не е безпогрешен, той се прави от хора, а хората могат да грешат", казва директорът на FRA, Майкъл О'Флаерти, и добавя: "Ето защо хората трябва да са наясно кога се използва AI, как работи и как да оспорват автоматизираните решения. ЕС трябва да изясни как съществуващите правила се прилагат към AI, а организациите трябва да преценят как техните технологии могат да ограничат човешки права както при разработването, така и при използването на AI."
Ето и конкретните неща, за които алармират от FRA:
- Уверете се, че AI зачита всички основни права - AI може да засегне много права - не само поверителността или защитата на данните. Той може също така да дискриминира или да възпрепятства справедливостта. Всяко бъдещо законодателство в сферата трябва да вземе предвид това и да създаде ефективни предпазни мерки.
- Гаранция, че хората могат да оспорват решенията, взети от AI - хората трябва да знаят кога и по какъв начин се изпозлва AI, както и как и къде могат да се оплачат. Организациите, използващи AI, трябва да могат да обяснят как техните системи вземат решения.
- Оценявайте изкуствения интелект преди и по време на използването му, за да намалите отрицателните въздействия - частните и публичните организации трябва да извършват оценки на това как изкуственият интелект може да навреди на основните права.
- Осигурете повече насоки относно правилата за защита на данните - ЕС следва допълнително да изясни как правилата за защита на данните се прилагат към AI. Необходима е и повече яснота относно последиците от автоматизираното вземане на решения и правото на човешки преглед, когато се използва AI.
- Оценете дали AI дискриминира - информираността относно възможността AI да дискриминира и въздействието на това е относително ниска. Това изисква повече финансиране на научни изследвания, за да се проучат потенциално дискриминационните ефекти, за да може Европа да се предпази от тях.
- Създайте ефективна система за надзор - ЕС трябва да инвестира в система, която да държи предприятията и публичните администрации отговорни при използването на AI. Властите трябва да гарантират, че надзорните органи разполагат с адекватни ресурси и умения, за да вършат тази своя задача.