Umelá inteligencia sa stáva čoraz výkonnejšou – a práve preto prichádzajú aj nové hrozby. Sam Altman, CEO OpenAI, varoval na konferencii Axios pred prudkým nárastom podvodov spôsobených generatívnou AI.
Ako informuje portál AP News, podľa neho ide o problém, ktorý môže spôsobiť masívnu destabilizáciu – najmä v oblasti bankovníctva, identity a dôveryhodnosti digitálnych transakcií.
Deepfake hlasy a falošné identity sú realitou
Altman upozorňuje najmä na audio deepfakes – teda situácie, kedy sa AI naučí napodobniť hlas konkrétnej osoby do takej miery, že dokáže oklamať aj overovacie systémy v bankách, poisťovniach či firmách využívajúcich hlasovú identifikáciu.
Podľa OpenAI je „fraud kríza“ nevyhnutná, ak nebudú prijaté okamžité opatrenia.
„Technológie, ktoré sme vytvorili, sú dvojsečné. Na jednej strane prinášajú pokrok, no na druhej strane umožňujú vytvárať dokonale falošné identity, ktoré sa nedajú rozlíšiť od reality,“ povedal Altman.
Nové štandardy autentifikácie sú kľúčové
Riešenie podľa neho spočíva v prepisovaní autentifikačných protokolov. Biometrické prvky, ktoré boli doteraz považované za bezpečné, už nemusia stačiť. Altman preto vyzval finančné inštitúcie, aby začali pracovať na multifaktorových, AI‑odolných overovacích systémoch.
Zároveň pripomenul, že OpenAI pracuje aj na vlastných bezpečnostných nástrojoch – napríklad zabudovanom vodoznaku pre generovaný obsah (ako je SynthID pre obrázky a videá).
Pridaj komentár