Омбудсманът срещу намеренията AI да взема решения за ТЕЛК

Омбудсманът Велислава Делчева предлага да отпадне текстът от Законопроекта за изменение и допълнение на Закона за здравето, който предвижда автоматизирана система да определя кои решения на ТЕЛК и НЕЛК са рискови и да задейства тяхното преразглеждане.

Вместо него общественият защитник инициира нова законова уредба, която да гарантира, че софтуерната оценка няма да води до отнемане на права, спиране на плащания или отмяна на решения без индивидуална проверка от орган на медицинската експертиза.

Предложението е направено в становище по общия законопроект № 52-653-15-16, който предстои да бъде разгледан на второ четене. Делчева предупреждава, че предвидената нова ал. 9 на чл. 108а не определя по какви критерии ще се установява висок риск, какви данни ще се обработват и как гражданите ще могат да оспорват резултатите от автоматизираната оценка, съобщават от пресцентъра на омбудсмана.

Според законопроекта при установен висок риск, свързан с действия на ТЕЛК, случаят ще се разглежда от НЕЛК, а когато рискът е свързан с действия на НЕЛК - от лица, оправомощени от министъра на здравеопазването. Омбудсманът посочва, че така се създава възможност за паралелна извънсъдебна процедура, която не е съобразена с действащия ред за контрол и обжалване на експертните решения.

Особено притеснителен е рискът от дискриминация на хора с редки заболявания, тежки или множествени увреждания. Ако системата използва изкуствен интелект за откриване на аномалии, тя може да определя техните медицински случаи като подозрителни единствено защото са необичайни. По този начин хората с най-сложни здравословни състояния могат да бъдат подлагани непропорционално често на проверки.

Затова Делчева предлага автоматизираната система да работи само по предварително определени, ясни и проверими правила и статистически методи, зададени и одобрени от човек, без самообучаващи се алгоритми и системи с изкуствен интелект. Оценката трябва да се отнася до експертните решения и медицинската документация, а не до личните характеристики или поведението на гражданите. Видът на заболяването сам по себе си и адресът на лицето не бива да бъдат показатели за риск.

Становището поставя и въпроса за защитата на вече постановените експертни решения. Законът допуска органите на медицинската експертиза по своя инициатива да отменят, изменят или преразглеждат неправилни решения само в тримесечен срок от постановяването им. Новият текст не уточнява дали автоматизираният сигнал ще позволява проверки след изтичането на този срок.

Омбудсманът настоява установеният от системата риск да има единствено сигнална функция. Всяка последваща проверка трябва да се извършва от компетентен орган на медицинската експертиза в установените от закона срокове. Гражданите следва да бъдат уведомявани за проверката, да имат възможност да представят обяснения и доказателства и да получават мотивирано решение, което могат да обжалват.

Предложената от омбудсмана редакция не засяга ал. 7 и 8 на чл. 108а, приети на първо гласуване. Целта е контролът върху медицинската експертиза да бъде усъвършенстван, без да се създава правна несигурност за хората с увреждания и без алгоритмичната оценка да замества преценката на органите на медицинската експертиза.

В приетите на първо четене промени бе записано, че ще има пълна дигитализация на процеса по получаване на медицинска експертиза и софтуерна проверка за злоупотреби с ТЕЛК решения. целта е да се намали чакането на решения и да се избегнат злоупотреби с издаването на ТЕЛК решенията.