FDA vill reglera maskininlärning inom hälso- och sjukvården

Kategori: Artificiell intelligens Postad 04 april

US Food and Drug Administration har meddelat att de förbereder sig för att reglera AI-system som kan uppdatera och förbättra sig själva när de slukar på mer träningsdata.

Tillkännagivandet: Byrån släppte ett vitt papper föreslår ett regelverk för att bestämma hur medicinska produkter som använder AI ska söka godkännande innan de kan gå ut på marknaden. Det är det största steget som FDA har tagit hittills mot att formalisera övervakningen av produkter som använder maskininlärning (ML).

Utmaningen: Maskininlärningssystem är svåra att reglera eftersom de kontinuerligt kan uppdatera och förbättra sin prestanda genom ny träningsdata. I de fall där FDA har godkänt ML-baserad medicinsk programvara tidigare, har det krävt att algoritmerna frysts innan kommersiell distribution och att de måste gå igenom en återgodkännandeprocess när de ändras. Men byrån inser att denna process innebär att vi förlorar fördelarna med tekniken. Nya regler kan tillåta ML-system att utvecklas i viss utsträckning efter det första godkännandet medan riskerna med den utvecklingen hanteras.

Ramverket: När de söker godkännande för en given produkt skulle leverantörer av ML-medicintekniska produkter också ha möjlighet att lämna in en plan för planerade programvaruändringar, inklusive modellomskolning. Dessutom skulle FDA utvärdera kvaliteten på leverantörens produktutvecklingsprocess för att till exempel säkerställa att dess system verifieras genom kliniska prövningar.

Nästa steg: FDA samlar nu in feedback om dokumentet. Uppsatsen visar noggrann eftertanke om området, Eric Topol, en expert i skärningspunkten mellan djupinlärning och hälsovård, berättade för Stat .

För mer om AI-världen, registrera dig för vårt Webby-nominerade nyhetsbrev The Algorithm här.