Ett nytt trick kan förfalska en taligenkännings-AI varje gång

Kategori: Artificiell intelligens Postad 10 jan

Med tanke på en ljudvågform kan forskare nu producera en praktiskt taget identisk version som gör att programvara för taligenkänning transkriberar något helt annat.

Bakgrundshistoria: Motstridiga exempel har lurat många datorseende-algoritmer. Medan alla neurala nätverk är mottagliga för sådana attacker, har forskare haft mindre framgång med ljud. Tidigare attacker kunde bara göra subtila justeringar av vad programvaran hör.

Vad är nytt: Berkeley-forskare visade att de kan ta en vågform och lägga till ett lager av brus som lurar DeepSpeech, en toppmodern tal-till-text AI, varje gång. Tekniken kan få musik att låta som godtyckligt tal för AI, eller obskyra röster så att de inte transkriberas.

Stöd för irritation: Föreställ dig att spela en musikvideo från YouTube på dina högtalare och låta Alexa höra en beställning för två ton krämig majs . Välkommen till AI-attackhelvetet.