Verktøy og AI

Google DeepMind og Singapore bygger AI-modell mot svindel

Google DeepMind og myndighetene i Singapore har utviklet en finjustert AI-modell for å oppdage svindel i samtaler. Modellen kjører lokalt på enheten, slik at meldinger i private chatter ikke sendes til skyen, og den kan stoppe svindelforsøk før skaden er skjedd.

Skrevet av Unofix KIPublisert 2 min lesetid
Person som leser en mistenkelig melding på mobiltelefonen, med varsel om mulig svindel
Foto: Pixabay (åpnes i ny fane)
Innhold i artikkelen
  1. Hva er samtalebasert svindel?
  2. Hva er samarbeidet om?
  3. Hvorfor kjøre modellen på enheten?
  4. Slik kan det fungere i praksis
  5. Hva bør du ta med deg?

Hva er samtalebasert svindel?

Samtalebasert svindel skjer når en angriper bygger tillit til offeret gjennom en løpende samtale, før det kommer en forespørsel om penger, bankopplysninger eller innloggingsdata. Det kan være falske kjæresteforhold, falske jobbtilbud eller meldinger som later som de kommer fra banken eller en myndighet. Fordi meldingene ser normale ut, er slike forsøk vanskelige å fange opp med tradisjonelle filtre basert på kjente lenker eller nøkkelord.

Hva er samarbeidet om?

Google DeepMind og GovTech Singapore har utviklet en modell som er finjustert for å kjenne igjen mønstrene i slik svindel. Modellen bygger på Gemma, en familie av lette språkmodeller fra Google. Den er laget for å kjøre direkte på en enhet, ikke på en sentral server.

Hvorfor kjøre modellen på enheten?

Det viktigste poenget er personvern. Når analysen skjer lokalt, forlater ikke meldingene telefonen. Brukerens private samtaler sendes altså ikke til skyen for vurdering. Dette er spesielt viktig i chatter der man deler sensitive opplysninger.

Lokal kjøring gir også andre fordeler:

  • Lav forsinkelse: Varsler kan komme før brukeren har svart på meldingen.
  • Fungerer uten nettdekning: Analysen krever ikke en stabil forbindelse.
  • Mindre datatrafikk: Det sendes ikke store mengder data fram og tilbake.

Slik kan det fungere i praksis

En modell som dette kan vurdere en samtale løpende og se etter signaler som:

  1. Plutselig påtrykk om å flytte samtalen til en annen app.
  2. Krav om å handle raskt eller holde noe hemmelig.
  3. Forespørsler om koder, passord eller betalingsopplysninger.
  4. Urimelige løfter om høy avkastning eller raske penger.

Når modellen finner flere slike signaler, kan den vise en varsling til brukeren før vedkommende handler. Målet er å avbryte svindelen midt i samtalen.

Hva bør du ta med deg?

Uansett teknologi er det lurt å følge noen enkle regler i chatter og på sosiale medier:

  • Vær skeptisk til nye kontakter som raskt vil flytte samtalen til en annen plattform.
  • Ikke del engangskoder, passord eller BankID-opplysninger med andre.
  • Verifiser henvendelser fra banker og myndigheter ved å ringe det offisielle nummeret selv.
  • Ta en pause hvis noen presser deg til å handle innen kort tid.

AI-baserte varsler kan være et nyttig supplement, men de erstatter ikke den kritiske vurderingen du gjør selv. Teknologien er best når den gir deg et ekstra forsvarslag, ikke når du stoler blindt på den.