Kunstig intelligens bliver stadig sværere at gennemskue, og nu viser en alvorlig sag, hvor store konsekvenser falske videoer kan få.
To mænd i 80’erne har købt et lægemiddel efter at have set reklamer, hvor det så ud, som om Søren Brostrøm anbefalede produktet.
Problemet var bare, at videoerne ikke var ægte.
Der var tale om såkaldte deepfakes, hvor kunstig intelligens var blevet brugt til at få den tidligere direktør for Sundhedsstyrelsen til at fremstå, som om han medvirkede i en reklame.
I en af videoerne sidder en kunstigt fremstillet version af Søren Brostrøm i en sofa i “Go’ Morgen Danmark” og taler positivt om det produkt, som reklamen forsøger at sælge.
De to ældre mænd opfattede budskabet som en reel anbefaling.
De købte derfor præparatet, og i begge tilfælde førte det til fejlmedicinering.
Sagen viser samtidig, hvor svært det kan være for nogle mennesker at gennemskue den nye form for digital manipulation.
En læge, der behandlede den ene mand, beskrev det som “umuligt” at forklare ham, hvad et scam eller en deepfake egentlig er.
Manden havde svært ved at forstå, at en video på sociale medier kan vise en kendt person, der tilsyneladende både taler og bevæger sig naturligt, uden at personen nogensinde har sagt ordene.
Søren Brostrøm blev et af Danmarks mest genkendelige sundhedsansigter under coronapandemien, hvor han var direktør for Sundhedsstyrelsen.
I dag arbejder han som seniorrådgiver i Verdenssundhedsorganisationen WHO.
Han gør det helt klart, at han aldrig har medvirket i reklamer for hverken lægemidler eller naturpræparater.
Samtidig er han stærkt berørt af, at hans ansigt og stemme er blevet misbrugt på en måde, der har fået mennesker til at ændre deres medicinering.
– Det er også derfor, det er uhyggeligt, og derfor det skal reguleres. Det er jo også forbudt i Danmark at lave den slags vildledende reklame. Det skal de platforme tage alvorligt, siger Søren Brostrøm.
Han beskriver situationen som noget, han er “frygteligt ked af”.
Men Søren Brostrøm er langt fra den eneste sundhedsprofil, der har fået sin identitet misbrugt i den type annoncer.
Bente Klarlund Pedersen, professor i integreret medicin på Københavns Universitet, er også blevet fremstillet i falske videoer og reklamer.
Der cirkulerer blandt andet annoncer, hvor det ser ud, som om hun anbefaler produkter mod tinnitus, rejsningsproblemer, leverfedt og overvægt.
Også her er der tale om manipuleret materiale og ikke reelle anbefalinger fra professoren.
Den voksende brug af kunstig intelligens gør problemet stadig mere kompliceret.
Deepfake-teknologien kan i dag skabe videoer, hvor kendte personer tilsyneladende både taler, bevæger munden og optræder i genkendelige tv-miljøer.
For mennesker, der ikke er vant til at møde den type manipulation på nettet, kan forskellen mellem ægte og falsk derfor være ekstremt vanskelig at opdage.
I dette tilfælde blev resultatet ikke blot et økonomisk tab.
To ældre mennesker endte med at tage medicin på et forkert grundlag, fordi de troede, at en af Danmarks mest kendte sundhedsprofiler stod bag anbefalingen.
Søren Brostrøm efterlyser nu større ansvar og regulering, mens de falske reklamer understreger, hvor hurtigt en overbevisende video kan udvikle sig fra digital svindel til et konkret sundhedsproblem.
