AI sukuria sukčiavimo el. Laiškus geriau nei žmonės

Neuroniniai tinklai ir toliau rodo nuostabius rezultatus atliekant įvairias užduotis. Tiesa, šį kartą jų darbai nebuvo visai kilnūs: padedami AI, Singapūro mokslininkai sukūrė sukčiavimo el. Laiškus, kurie pasirodė įtikinamesni už tuos, kuriuos parašė tikri žmonės.

Visų pirma praėjusią savaitę Las Vegase vykusiose „Black Hat“ ir „Defcon“ kibernetinio saugumo konferencijose Vyriausybės technologijų agentūros (Singapūras) ekspertai pasakojo apie neįprasto eksperimento rezultatus.

Jie savarankiškai parašė šimtus sukčiavimo el. Laiškų, o vėliau sukūrė dar daugiau, naudodami natūralios kalbos apdorojimo algoritmą GPT-3 ir kitas dirbtinio intelekto technologijas. Tada jie išsiuntė tuos laiškus 200 kolegų, kad jie patikrintų, kurie, jų manymu, yra įtikinamesni.

Abiem atvejais laiškuose buvo sekimo nuorodos - jie neatsisiuntė viruso į įrenginį, o tiesiog išsiuntė tyrėjams ataskaitą apie paspaudimus. Rezultatas nustebino: žmonės „žymiai dažniau“ spustelėjo dirbtinio intelekto parašytų laiškų nuorodas nei tų, kuriuos parašė kiti žmonės. Deja, tiksli statistika nepateikiama.

Autoriai pažymi, kad AI parašytos raidės skambėjo „stebėtinai žmogiškai“ ir kad platforma automatiškai pridėjo netikėtų elementų, kad tekstas būtų įtikinamesnis - pavyzdžiui, ji citavo Singapūro įstatymus, nes įvestyje nurodyta, kad gavėjai iš Singapūras.

Ekspertai jau seniai diskutuoja, ar sukčiai turi prasmę mokyti neuroninius tinklus kurti sukčiavimo el. Bet jei jums reikia tikslinių el. Laiškų, kurių surinkimas reikalauja papildomo darbo, neuroniniai tinklai tikrai gali būti naudingi.

Nors tai gali atrodyti bauginančiai, gera žinia yra ta, kad kokybiškas AI mokymas kainuoja milijonus dolerių - tikriausiai ne. tikėtis, kad artimiausioje ateityje sukčiai masiškai nuspręs patobulinti sistemą, kuri jau yra puiki dirbantis.