Клонираха гласовете на журналист и лекар във фалшива реклама
Гласовете на ендокринолога проф. Цветалина Танкова и водещата на новините Лилия Мустакова бяха използвани във фалшива реклама на хранителна добавка за хора с диабет, съобщиха от Нова телевизия.
Във видеото се провежда "кратко интервю" със експерта, в което журналистката обяснява, че проф. Танкова ще представи "нов метод за лечение на диабет, който помага да се понижат нивата на захарта у дома, без операции или лекари и без да се харчат много пари".
Въпреки разминаването между движението на устните и изречените думи, в ефир се чува напълно автентичен глас на проф. Танкова:
Благодаря, че ме поканихте днес. Вече е налично ново лечение на диабет, което е показало отлични резултати. Това е нова формула, която помага да се регулира количеството на захарта в кръвта. Клетките започват да се обновяват по-бързо. Бих искала да добавя, че този продукт е направен от естествени материали и съдържа много витамини, които са много полезни за организма. Също така продуктът действа върху симптомите на диабета, така че много бързо ще почувствате облекчение от болката, произнася фалшивият глас.
Следва кратко видео с "пациентка", която е имала "сериозен проблем със захарта и диабетното стъпало". Лекарите ѝ казали, че може би няма да може да ходи отново, но... въпросната хранителна добавка ѝ "помогнала и сега захарта ѝ е напълно нормална".
Следва отново "включване" от журналистката, в което се обяснява, че всеки, който има подобни проблеми може да се включи в "националната програма за контрол на диабета". "Като преминете курса, ще забравите за високата кръвна захар завинаги, просто кликнете върху връзката по-долу за да научите повече", завършва фалшивата реклама.
Лилия Мустакова, чийто глас е изкуствено генериран, казва, че е била шокирана от чутото.
"Никога в новините няма да има подобен призив, подобна реклама. Това са неща, които предписват само лекари, дори да изглежда инстинско", категорична бе тя.
"Това не съм го казала аз, но имитира моя глас. Искам категорично да се разгранича от тази реклама на продукт, който не мога да нарека медикамент. Нямам нищо общо с това", коментира проф. Цветалина Танкова.
Според специалиста по киберсигурност Спас Иванов, да се направи подобен клип не е трудно за изкуствения интелект (ИИ).
Образът е истински, по движението на устните е ясно, че водещата не изрича това, което се чува. Гласът е изкуствено синтезиран. Големите езикови модели, които наричаме изкуствен интелект, могат да го правят. Изключително лесно става. Двеминутен запис с добро качество на гласа и подходящ софтуер. Има десетки такива приложения, вече са масови, макар все още да са достатъчно скъпи за обикновения гражданин, казва Иванов.
По думите му, когато се създават образи със звук се използват два модела - единият създава генеративния модел, т. е. изкуствено генерираната реч и образ, а другият се опитва да намери слабостите в него и да каже къде са съответните пропуски. Това се повтаря безброй пъти между двата, докато накрая резултатът е неразличим от истински, обяснява експертът.
Има десетки алармени сигнали, които подсказват, че видеото е фалшиво, но възрастните и безпомощните хора, които гледат видеото, трудно могат да мислят рационално. Първо, това няма как да се случи в новини. Второ, подозрителен е самият призив за спешност - нещо да се извърши сега в момента, купувайки дадения продукт, хранителна добавка за нещо нелечимо за момента – това са абсурдни неща, комбинирани в кратко послание, коментира Иванов.
Той припомни, че преди месеци ЕС прие акт, който ограничава развието на ИИ и задължава ползвателите да разкриват повече данни с какви цели и средства се използва.
"Има изследване на Европол, което показва, че през 2026 г. 90% от цялото съдържание в интернет ще бъде генерирано изкуствено", подчерта Спас Иванов.
По думите му генерирането на подобно съдържание все още не е престъпление.
Особено популярни са т. нар. "романтични измами" когато фалшиви аватари с лице и глас измъкват пари и имоти от влюбените жертви. Друга много популярна злоупотреба е монтирането на лица на известни личности върху порнографски видеа с цел изнудване.
Спас Иванов призова всеки такъв опит да бъде докладван и прогнозира, че съвсем скоро подобни действия ще бъдат инкриминирани.