211service.com
AI är verklig nu: Ett samtal med Sophie Vandebroek
Varför det aldrig kommer att bli en annan AI-vinter, och vad IBM och MIT gör tillsammans för att säkerställa det.
28 februari 2019
Sponsras av Darktrace
Fler gånger än nästan något annat innovationsområde har artificiell intelligens klarat återkommande cykler av överdrivet hopp, följt av besvikelse, pessimism och nedskärningar i finansieringen. Men Sophie Vandebroek, IBM:s vicepresident för framväxande teknologipartnerskap, tror att AI-vintrarna verkligen är ett minne blott, tack vare de enorma mängder datorkraft och data som nu är tillgängliga för att träna neurala nätverk.
I det här avsnittet delar Vandebroek med sig av exempel på verkliga applikationer som möjliggörs av denna förändring, från bildigenkänning till chatbots. Och hon beskriver uppdraget för det nya MIT-IBM Watson AI Lab, ett 10-årigt samarbete på 240 miljoner dollar mellan IBM-forskare och MIT-fakulteten och studenter för att fokusera på de centrala framstegen som kommer att göra AI mer användbar och pålitlig inom alla branscher, från hälsovård till finansiering till säkerhet.
Det här avsnittet presenteras av Darktrace, världsledande inom AI-teknik för cyberförsvar. Darktrace har sitt huvudkontor i San Francisco och Cambridge, Storbritannien, och har nästan 2 500 kunder runt om i världen som använder dess programvara för att upptäcka och reagera på cyberhot mot deras företag, användare och enheter. Darktrace har byggt innovativ maskininlärningsteknik som kan upptäcka ovanlig aktivitet med hjälp av ett tillvägagångssätt som bygger på det mänskliga immunsystemet. I den andra halvan av showen förklarar Darktraces VD Nicole Eagan hur Darktraces teknologi fungerar och varför företag behöver ta med nya försvar till dagens cyberkapprustning.
VISA ANMÄRKNINGAR OCH LÄNKAR
FULLSTÄNDIG TRANSKRIPT
Elizabeth Bramson-Boudreau: Från MIT Technology Review heter jag Elizabeth Bramson-Boudreau, och det här är Business Lab, programmet som hjälper företagsledare att förstå ny teknik som kommer ut från labbet och in på marknaden. Det här avsnittet presenteras av Darktrace, världsledande inom AI-teknik för cyberförsvar. Senare i programmet kommer jag att prata med VD för Darktrace, Nicole Eagan. Hon kommer att visa oss hur framsteg inom AI och maskininlärning ger oss en ny uppsättning sätt att försvara oss mot hackare och cyberbrottslingar.
Elizabeth: Men vår första gäst kommer från ett av de nyaste centren för AI-forskning, MIT-IBM Watson AI .Lab, bara ett par kvarter från våra kontor här i Cambridge, Massachusetts. Det är platsen för mer än 50 nya projekt som involverar IBM-forskare och MIT-fakulteten, alla inriktade på att främja den grundläggande teknologin bakom artificiell intelligens. Och här för att prata med oss är en av arkitekterna bakom detta försök, Dr. Sophie Vandebroek.
Elizabeth: Sophie är för närvarande IBM:s vicepresident för framväxande teknologipartnerskap, och hon är känd inom datorbranschen för sin framstående historia som driver innovation framåt – inte bara på IBM utan på Xerox, där hon tillbringade över ett decennium som teknisk chef på Xerox. Hon var chef för PARC Inc., det berömda laboratoriet som tidigare kallades Xerox PARC. 2011 valdes hon in i Women in Technology Hall of Fame. I enlighet med teman för MIT IBM Watson AI-labbet började vi prata om hur AI utvecklas och varför det förändrar företag på sätt som de flesta chefer bara börjar förstå.
Elizabeth: Sophie, tack för att du kom hit för att prata med oss och välkommen.
Sophie Vandebroek: Åh, det är ett stort nöje för mig att vara här. Jag har varit en ivrig läsare av din dagbok, så jag är mycket glad över att få delta i podden.
Elizabeth : Jag hoppas att du inte bara kan prata med mig utan även de människor som lyssnar på den här podden om vart AI är på väg och stadiet som vi är i i AI-utvecklingen. Jag vet att många pratar om hur AI har varit på gränsen till att förvandla arbete, bara för att liksom få dessa förhoppningar att försvinna. Kan vi möjligen vara i en annan av dessa situationer där det tappar ut, eller är det annorlunda nu?
Sophie: Det är väldigt annorlunda nu AI är verklig. Och ja, ordet artificiell intelligens myntades för nästan 70 år sedan. Det är så många decennier senare. Så vad hände? Varför var det inte verkligt då, och varför är det verkligt nu? Det finns två huvudorsaker till att det är verkligt nu. Och det är båda på grund av exponentiella lagar. Den första är Moores lag som vi alla känner till och älskar mycket väl. Transistorn, grundtransistorn uppfanns på 50-talet. År 1975 fanns det 1000 transistorer på ett kvadratcentimeterchip. Idag finns det 10 miljarder transistorer på ett kvadratcentimeterchip som IBM utvecklar idag, och den beräkningskraften har resulterat i de mobila enheter vi har i våra fickor, den senaste högpresterande datorn, Summit, ni vet, den där IBM-datorn som Oak Ridge National Lab köpte nyligen. Den gör 200 petaflops, vilket är 200 tusen biljoner beräkningar per sekund. Jag menar, supersnabb.
Sophie: Så vi har en volym, jag menar en enorm mängd beräkningskraft, vilket är avgörande för att AI ska vara verklig. Dessutom den andra lagen, som är Metcalfes lag. Bob Metcalfe, som också var en del av Boston-gemenskapen under en lång tid, var på Xerox PARC, och som ni vet innan jag började med IBM var jag några decennier i Xerox och arbetade nära PARC-teamet när han uppfann Ethernet. Och Ethernet-anslutet...värdet på Ethernet, värdet på ett nätverk är proportionellt mot 2 till n:e med n, antalet enheter i nätverket. Och så det kallas Metcalfes lag, och det hänvisade inte bara till Ethernet utan uppenbarligen till World Wide Web, till sociala nätverk, och det har skapat många mycket värdefulla företag som vi alla känner till idag.
Sophie: Men dessutom har det skapat denna enorma mängd data, eller hur? Och så data på webben tillsammans med den strukturerade digitala data som många företag har idag, många företag har börjat digitalisera alla sina arbetsprocesser tillsammans med all data kommer från sensorer med Internet of Things och sensorer och tillverkning och kameror, allestädes närvarande kameror, etc. Det finns en enorm mängd data, i själva verket har den ökat exponentiellt under det senaste decenniet eller mer nu. Och så hände 'AI-vintrarna' för att det verkligen inte fanns beräkningskraften och det fanns inte data för att träna dessa neurala nätverk. Och idag har vi beräkningskraften. Vi har uppgifterna. Och en enorm mängd framsteg har gjorts i de neurala nätverken under de senaste fem åren, sedan det för första gången 2012 var ett neuralt nätverk för djupinlärning som kördes på en grafisk bearbetningsenhet, en GPU, som för första gången vann en tävling om bildigenkänning. Och det är faktiskt i dessa smala områden som AI har övermänsklig kvalitet och superhastighet. Och så av dessa skäl, dessa två exponentialer, är AI verklig. Och faktiskt skulle jag säga att artificiell intelligens i sig nu är i början av en exponentiell kurva, att vi skapar exponentiellt snabba nya insikter som individer, oavsett vilken bransch du är i, kan använda för att fatta snabba beslut i realtid. Det kan också påskynda upptäcktsprocessen inom biovetenskaplig forskning och utveckling överlag. Så det används. Och den har verkligen förmåga att påverka flera områden.
Elizabeth: Så det är en bra förklaring av vad som verkligen har möjliggjort denna förändring och varför AI är ett så allmänt förekommande ämne för företagsledare idag. Vad tillåter det, vad tillåter AI företag att göra som kan ha varit svårt eller till och med omöjligt att göra för ett decennium sedan?
Sophie: Ja, så det har det gjort, det tillåter företag att både öka sin effektivitet och effektivitet ur den nedersta radens synvinkel, ur en lönsamhetssynpunkt. Men det tillåter dem också att skapa helt nya affärsmodeller och nya intäktsmöjligheter. Låt mig ge ett exempel på det första. Till exempel, virtuella agenter som passar i den här kategorin av smal AI som vi just passerade den fasen, vi är i fasen av bred AI idag och vi kan prata om det innan vi kommer till allmän artificiell intelligens. Men de virtuella agenterna eller chatbotarna som många av oss känner till och interagerar med idag som en del av kundservrar, fanns helt enkelt inte för ett decennium sedan. Allt gjordes av callcenteragenter som var tvungna att utnyttja stora databaser för att ge dig dina svar på dina frågor, et cetera. Tja idag, det mesta av det, kan virtuella agenter göra ett mycket effektivt och effektivt sätt. Faktum är att vissa av dessa virtuella agenter idag mycket snabbt kommer att bedöma om du är en extrovert eller introvert och anpassa sitt språk efter din stil.
Sophie: Även automatisering. om du till exempel kör din bil genom en betalstation idag är det helt automatisk registreringsskyltigenkänning och avläsning av registreringsskyltarna så att du inom backend-processerna faktiskt debiteras för att köra genom tullstationerna. Återigen gjordes de flesta av dessa processer manuellt tidigare. Bilder skulle tas av registreringsskyltar, skulle skickas till Indien för att bearbetas, och sedan skulle fyra av fem personer, om din registreringsskylt matas in i systemet, då bli fakturerad. Det här är alla dessa transaktionsmässiga, rutinmässiga, mycket smala, mycket specifika processer som är automatiserade idag.
Elizabeth: Allt det här låter fantastiskt. Och som företagsledare kan jag tro att du vet varför jag inte skulle vilja se större effektivitet. Men finns det saker som jag kanske behöver tänka på kring riskerna med maskininlärningsbaserade verktyg?
Sophie: Ja, det finns definitivt risker. Och många företag – hos IBM är det top of mind. Vi skapar verktygen och funktionerna som en del av IBM OpenScale eller så har vi andra verktygssatser som jag ska lyfta fram. En av dem är att hjälpa företag att hantera risker. Det börjar också bli uppmärksammat hos styrelser och styrelser i företag, att se till att dessa risker relaterade till att implementera och omfamna artificiell intelligens som en del av organisationen åtgärdas. Låt mig bara lyfta fram några. Nummer ett är att se till att algoritmerna, AI-algoritmerna är rättvisa - att resultatet av AI-algoritmen, eftersom AI hjälper människor att fatta beslut, att besluten är rättvisa och etiska och inte partiska. Så vi har precis lanserat öppen källkod, vem som helst kan hjälpa oss att förbättra det, så IBM-forskning skapade öppen källkod för AI Fairness 360 Toolkit, där du kan dra in din algoritm och sedan kontrolleras för alla slags fördomar. Idag kollar vi efter genusbias, åldersbias, rasbias, saker som postnummerbias. Några av anledningarna till partiskheten är att datamängden som argumentet tränas med, och särskilt i företag – företag inte har stora mängder data som i konsumentvärlden, eller hur, där det kan finnas enorma mängder kattbilder att träna en bildalgoritm för att känna igen en katt. De företag där ett företag, låt oss säga ett sjukhus eller en skola eller ett företag, har en begränsad mängd data för att träna algoritmerna så att data kanske inte har tillräckligt med mångfald och inkludering i datasetet, så att algoritmerna faktiskt blir partisk.
Sophie: Ett exempel är till exempel personalavdelningar som börjar använda AI för att hjälpa till att hitta nya medarbetare. Och så om din källa för mjukvaruutvecklare använder en AI-algoritm som kan tränas på dina data, kommer algoritmen att lära sig att de flesta av mjukvaruutvecklarna är män, eftersom det är vad du anlitade tidigare. Så risken är att algoritmer sedan kan rekommendera att din nästa anställning, om man tittar på alla meritförteckningar, kan proportionellt rekommendera fler män än kvinnor för jobb inom mjukvaruteknik. Vi vet alla att kön är irrelevant för en mjukvaruingenjör. Det råkar bara vara så att historiska data var partiska i datan. Så verktygen kommer då att rekommendera att ha en mer varierad datauppsättning.
Elizabeth: Okej, så vilka är några av de andra riskerna?
Sophie: Okej. De andra riskerna är, det är mer jag menar att dagens algoritmer, särskilt djupinlärning och neurala nätverk, är som svarta lådor. Så risken är att algoritmen ger dig ett svar. Ja, du får ett lån, eller nej, du får inget lån, eller så har du hudcancer eftersom smal AI är bättre än människor för att identifiera hudcancer. Men det går inte att förklara. Det förklarar inte varför eller hur det kom till det svaret. Och därför är förklaringsbarheten väldigt viktig. Så det är en risk att du i ditt företag inte kommer att kunna förklara hur vissa svar uppnåddes. Och faktiskt i Europeiska unionen, med GDPR, de allmänna dataskyddsförordningarna, är det ett krav. Företag kan inte ens använda AI om det inte kan förklara sig själv. Allt måste kunna förklaras.
Elizabeth: Så berätta lite om MIT-IBM Watson Lab och dess uppdrag.
Sophie: Ja. Tack för frågan. Detta är ett mycket spännande partnerskap mellan IBM research och MIT som vi etablerade för lite över ett år sedan. Och så det är ett åtagande på 240 miljoner dollar från IBM under 10 år och det är ett unikt labb, ett universitetsindustriellt samarbetslabb, i världen. Ingen annan sådan finns. Jag och dekanus för ingenjörsvetenskap vid MIT, Anantha [Chandrakasan], började faktiskt brainstorma sommaren 2017, jag tror att det var...
Sophie: Du sa till mig att allt hände ganska snabbt.
Elizabeth: Det hände på tre veckor. Kanske fyra veckor om jag hade om jag inkluderar lunchen som Anantha och jag hade innan vår senior vicepresident pratade med presidenten för MIT på en måndagsmorgon och tre veckor senare på en fredag undertecknades kontraktet. Och så är det verkligen, visionen var att skapa detta gemensamma labb med cirka 100 forskare, och forskarna inkluderade IBM-forskare, MIT-professorer och studenter, och vi firade ettårsdagen i september. Sista september 2018. Och vi har faktiskt 49 gemensamma projekt som är aktiva idag, med cirka 100 personer eller motsvarande 100 personer på de projekten. Och det är de verkligen, de är forskningsprojekt och inte tillämpad teknik. Vi ville verkligen se till att de 50 projekten tar itu med de svåraste problemen inom AI. Och de gör precis det.
Sophie: Så det finns fyra pelare. Vi definierade fyra pelare. Den ena handlar om AI-kärnalgoritmer och det är precis där vi tar upp dessa svåra frågor som AI som kan förklara sig själva. Eller att lära av små data, olika metoder för att lära av små data, som att sjukhus har en liten uppsättning patienter men en liten uppsättning data.
Elizabeth: För att ta itu med problemet du nämnde tidigare om hur det inte finns på företagssidan, finns det ofta inte tillräckligt med data för att verkligen träna algoritmerna.
Sophie: Inte som det gjordes förr i höger i den smala AI-fasen. Nu är vi i den här fasen av bred AI där system måste lära sig av små data. Så flera av projekten i MIT-IBM Watson AI-labbet är också förknippade med det.
Sophie: Den andra pelaren är att tillämpa AI på industrier. Och idag tittar vi på tre branscher: hälsovård och biovetenskap, eftersom IBMs affärsenhet Watson Health har sitt huvudkontor här i Cambridge, Massachusetts. AI tillämpad på industrin är också säkerhet, tillämpad på säkerhetsföretag. Och självklart är säkerhet relevant för alla branscher. Och sedan är den tredje branschen som vi fokuserar på finansiella tjänster, alltså finans och ekonomi. Så det är en andra pelare. Det finns fyra pelare i MIT-IBM Watson AI Lab.
Sophie: Den tredje är, vi kallar den AI:s fysik. Vilka är hårdvaruutmaningarna för att göra effektiv och effektiv träning i molnen såväl som på kanten. Och sedan är den fjärde kategorin, en som jag är väldigt exalterad över, en kategori som vi kallar välstånd aktiverat av AI, eller delat välstånd aktiverat av AI. Det tittar återigen på dessa utmaningar med hur man skapar AI-system och som har verkligt moraliska värderingar som kan fatta etiska beslut. Vad är framtiden för jobb till exempel, är ett projekt som vi har i den kategorin. Och så ja, dessa är de fyra pelarna: kärna AI-algoritmer, AI-fysik, AI för industrier och välstånd som möjliggörs av AI. Och nu när vi firade vårt ettårsjubileum har vi just kommit överens mellan MIT och IBM att vi kommer att öppna våra dörrar för andra stora företag som verkligen är intresserade av att ligga i framkanten av forskning inom artificiell intelligens att ansluta sig till vårt labb. Så det är vad vi jobbar med härnäst.
Elizabeth: Två områden som vi på MIT Technology Review lägger ner mycket tid på att rapportera om är kryptovalutor eller blockchain och kvantberäkningar. Jag skulle verkligen vilja höra vad ni alla gör inom dessa områden. Och vi kanske kan börja med krypto. Och jag antar att frågan jag skulle ha är och hur tänker vi på att blockchain är mer än en kuriosa och faktiskt något som är pålitligt och stabilt och som på ett sätt kan förbättra affärssammanhanget där det används?
Sophie: Ja, du sa rätt ord där. Så allt handlar om tillit. När vi på IBM pratar om blockchain, faktiskt blockchain, pågick det mycket forskning inom blockchain under flera år i forskningslabben, och IBM skapade en verksamhet för ungefär två och ett halvt år sedan, en blockchain-affärsenhet. Jag ser tre typer av områden där blockchain används idag eller där det finns många prototyper som experimenterar. En är verkligen i kryptovalutor som Bitcoin. Och det är så de flesta känner till blockchain, de tänker på Bitcoin. Och det är ett helt område av kryptovaluta. På IBM är vi inte intresserade av kryptovaluta, eftersom våra kunder inte är intresserade av kryptovalutor. Vi är intresserade av den underliggande blockchain-plattformen. Och i själva verket har mycket av den underliggande plattformen varit öppen källkod på Hyperledger, som drivs av Linux Foundation, och IBM har bidragit avsevärt till koden och vi kommer att fortsätta att göra det. Nästa är att blockchain, denna underliggande plattform, används i värdekedjor för att spåra värdefulla varor eller värdefulla digitala varor när de går från var de kommer från till där de används. Och jag kan ge några exempel. Och det tredje området där det är värdefullt, särskilt inom finansbranschen, är kring digital identitet. Och jag kan ge några exempel där. Men vad företag är intresserade av är att kunna skapa pålitliga transaktioner mellan partners som i sig kanske inte känner varandra som småföretag eller större företag eller distributörer eller bönder.
Sophie: Och så skapa förtroendet på ett distribuerat sätt. Så blockchain-nätverken som vi har skapat med våra med våra kunder är privata nätverk. De är inte öppna för alla att gå med. De är privata. Det är endast behörighetsnätverk. Ett av de första exemplen vi gjorde, som började för många, många år sedan och det är nu i drift är ett blockchain-nätverk för livsmedelssäkerhet som vi skapade med Walmart. Walmart var en pelare i detta blockchain-nätverk och många av Walmart-leverantörerna finns på nätverket. Och där spårar det mat från gården till bordet. Och speciellt avsikten här är att om som ett utbrott av E. coli eller något annat livsmedelssäkerhetsproblem...
Elizabeth: Romainesallat.
Sophie: Ja, romansallat. Jag menar, det händer hela tiden. Vi visste att utbrottet var i Kalifornien någonstans men allt inklusive sallad vad som helst, odlat här i Massachusetts, togs från hyllan på rätt sätt. Det är vad som händer idag. Det tar lång tid att spåra var ett utbrott inträffade. Men om du spårar alla dina varor genom blockkedjan inom två minuter eller snabbare kan du snabbt spåra var just denna sallad kom ifrån. Då måste du fortfarande gå in och se vid vilken punkt i kedjan från gård till butik till bord förorenade E. coli faktiskt maten. Men det är lättare än att först ta reda på varifrån det kom. Höger.
Elizabeth: Bra. Jo, helt underbart att höra från dig och att få chansen att prata med dig igen. Och det är fantastiskt att ha labbet precis runt hörnet. Det är en underbar anläggning och det är bra att ha dig i grannskapet. Så tack ska du ha.
Sophie: Åh tack så mycket. Det var mitt stora nöje.
Elizabeth: Det här avsnittet presenteras av Darktrace, världsledande inom cyber-AI-teknik. Darktrace har sitt huvudkontor i San Francisco i Cambridge England. Det har cirka 2 500 kunder runt om i världen som använder dess programvara för att upptäcka och reagera på cyberhot mot deras företag, användare och enheter. Darktrace har byggt innovativ maskininlärningsteknik som kan upptäcka ovanlig aktivitet. För att ta reda på mer om hur det fungerar pratade jag med företagets VD, Nicole Eagan.
Elizabeth: Skönt att kunna prata.
Nicole Eagan: Inga problem.
Elizabeth: Uppskattar att du gör detta. På Darktrace jämför du ditt varumärke av cybersäkerhet med det mänskliga immunsystemet. Och jag hoppas att du kan förklara för oss vad du menar med det.
Nicole: Så vad som verkligen hände är att jag tror att säkerhetsbranschen var besatt av att försöka hålla skurkarna utanför. Och vad vi kom att inse är att många gånger de mycket sofistikerade angriparna som nationalstaterna kommer att komma in i vilket nätverk de vill. Så vi bestämde oss för att typ vända problemet åt andra hållet och anta att skurkarna var inne eller skulle kunna ta sig in. Det ledde oss till denna idé att faktiskt basera vår artificiella intelligens på principerna för det mänskliga immunsystemet. Så om du tänker på den mänskliga kroppens immunsystem, har den en medfödd självkänsla som gör att den kan veta vad som inte är jaget och har ett mycket exakt och snabbt svar. Det är precis så vår artificiella intelligens fungerar. Det är inbäddat i vart och ett av våra kunders företag och det är bara att lära sig en självkänsla, vad som är normalt. Det vi kallar 'livsmönstret' för varje användare och enhet som är ansluten till det nätverket. Och det gör att vi kan hitta saker som är utöver det vanliga och bokstavligen stoppa attackerna eller neutralisera dem i deras spår.
Elizabeth: Och hur ser du generellt sett på att cyberattacker förändras i dessa dagar, vare sig de kommer från nationalstater eller från enskilda skurkar, cyberbrottslingar?
Nicole: Jag träffade nyligen en säkerhetschef hos en av våra kunder och jag tror att han hade ett bra sätt att beskriva det. Han sa Tänk bara, det finns ett team någon annanstans i världen och det teamets heltidsjobb är att tänka på hur man antingen stjäl din immateriella egendom eller på något sätt får information från dig. Och det är verkligen vad företag står emot, och anledningen till det är den typ av cyberkapprustning där vi är vana vid att regeringar slåss mot regeringar – medan det fortfarande pågår har vi nu den här helt nya dimensionen där nationalstater faktiskt är eventuellt angripa företagen. Och det betyder att det digitala slagfältet verkligen har förändrats och det är något som de flesta företag verkligen inte har behövt försvara sig mot tidigare. Nu komplicerar och kombinerar man det med att dessa nationalstater i många fall också kan organiseras med en mycket stark global cyberbrottslighet. Och den typen av samarbete mellan dessa enheter är också en slags ny dimension. Så det är typ vad företag möter, det är ganska nytt och ganska nytt jämfört med attackerna för kanske fem eller tio år sedan.
Elizabeth: Okej. Så när det kommer till vad Darktrace gör, använder du artificiell intelligens för att upptäcka attack, för att försvara sig mot attack, eller både och?
Nicole: Det är en utmärkt fråga. Du vet att jag tror att företag i vissa fall använder artificiell intelligens helt enkelt för att automatisera mänskliga processer. Så till exempel varje företag har vanligtvis en säkerhetsverksamhetscentral. Du kommer att ha ett antal hotanalytiker och incidentsvarare där inne. Och det finns ett tillvägagångssätt som säger väl varför inte bara ta bort AI och lära sig av de steg som de tar i det som kallas Playbook för att svara på intrång och automatisera det. Och att det kan ge dig lite av en effektivitetsvinst. Men samtidigt kommer det inte att förändras. Det andra jag har sett AI användas för är i princip att analysera alla historiska attacker som har inträffat på andra människor, på andra företag, och försöka använda det som en indikator på framtida hot. Nu medan det låter väldigt intressant och lite praktiskt, verkar det faktiskt vara fundamentalt felaktigt, och det beror på att attackerna förändras så snabbt. Faktum är att det i många fall bara finns nya attackstammar där en enda kodrad ändras, och nu stämmer inte längre vad som kallas signaturerna. Så i vårt fall använder vi många typer av oövervakad, övervakad och djupinlärning för att inte bara kunna hitta attackerna utan att den artificiella intelligensen vet hur man undersöker attacken. Och viktigast av allt hur man faktiskt agerar. Och det är väldigt sällsynt. Det finns faktiskt inget annat företag som använder AI för att vidta åtgärder.
Elizabeth: Höger. Så då gör du båda sakerna. Du både upptäcker och vidtar åtgärder.
Nicole: Vi använder verkligen AI för att upptäcka, undersöka och vidta åtgärder. Och den sista delen, ta handlingen, är verkligen svår och riktigt intressant. Det är bra eftersom det kan reagera på attacker väldigt snabbt, faktiskt i genomsnitt kan det svara på mindre än två sekunder på en attack. Och när dessa attacker rör sig i maskinhastighet är det helt avgörande. Men det andra vi fann, ur ett praktiskt perspektiv, är att det tar tid för människor i säkerhetsorganisationen – det kanske är första gången de ens arbetar med artificiell intelligens och förstärks – det tar lite tid för dem att faktiskt bygga upp det förtroendet. Så vi har faktiskt skapat en helt ny förmåga att få den att kunna ge rekommendationer. Tänk om AI rekommenderar vilken åtgärd den skulle vidta och får en människa att bekräfta det? Och när människorna väl börjar se, wow, det ger rätt rekommendation varje gång, de bygger ett förtroende och sätter det i det vi kallar aktivt läge. Så jag tror att efter att ha gjort detta nu under de senaste fem åren i nästan 2 500 företag, har vi blivit riktigt bra på att förstå vad som krävs för att bygga den förtroenderelationen, men även våra algoritmer har blivit riktigt starka och riktigt smarta på att svara på dessa attacker i realtid.
Elizabeth: Så när försvaret blir bättre, är det inte rättvist att säga att även attacker kommer att bli bättre, kanske genom att använda AI för att slå tillbaka mot AI-orienterat eller AI-organiserat cyberförsvar?
Nicole: Du har helt rätt, även om det är lite tidiga dagar och vi har bara sett indikationer på att det kan gå i den riktningen, och vi har sett saker som beteendeattacker där AI faktiskt kan lära sig din stil och kommunikationssätt som du använder låt oss säga ett e-postmeddelande. Det har varit en något grundläggande maskininlärning i det här skedet. Men vi förväntar oss fullt ut att det kommer att finnas en helt ny kategori av attacker som kallas offensiv AI. Och det betyder att angriparna kommer att börja använda olika former av maskininlärning, AI, och så småningom djupinlärning som en del av attackerna. Så det kommer att förändra hela den här branschen över en natt. Och jag tror att det i stort sett är något som många chefer förmodligen inte har övervägt ännu.
Elizabeth: Höger. Så det är väldigt intressant, för när du pratade om hur Darktrace tar reda på vad 'normal aktivitet' är på ett nätverk, kommer det upp för mig att det kan finnas andra användningsfall för den informationen, eller den insikten. Och jag undrar om det är bortom typ av cybersäkerhet, om du har funderat på att titta på normal aktivitet för att hjälpa till med andra typer av saker, som t.ex. regelefterlevnad eller riskhantering, sådana saker.
Nicole: Absolut. Jag tycker att det som har varit intressant är att vi har skapat en riktigt unik datauppsättning för våra kunders räkning. Så var och en av dem som använder Darktrace för säkerhet idag har faktiskt inbäddad artificiell intelligens som lär sig självkänslan och kontinuerligt lär sig och uppdaterar. Och det är en datauppsättning som kan användas till andra saker. Det kan användas för att följa regelverk. Faktum är att vi har några Darktrace-kunder som använder oss idag för efterlevnad av HIPAA och HITRUST inom hälso- och sjukvård, eller med saker som DFS, som är New York State-reglerna för finansiella tjänster. Så vi ser redan tidiga indikatorer på hur dessa artificiella intelligensmodeller och den unika datamängden kan utnyttjas. Jag tycker att ett riktigt intressant användningsfall är fusioner och förvärv. Vi har några företag som använder oss i due diligence-faser för M&A för att faktiskt få mer insyn i måltillgångens miljö. Och idag använder de det för att faktiskt se om det kanske finns en konkurrent eller en nationalstat i det nätverket som till exempel försöker stjäla immateriella rättigheter. Men det finns mycket bredare typer av M&A due diligence som den skulle kunna användas för. Och slutligen har vi några kunder som också använder oss för att följa datasekretess som GDPR, genom att se vilken trafik som kan komma in och ut ur Europa. Så absolut, jag tror att även om vi idag bara låser upp kraften i den datamängden och våra AI-modeller för cybersäkerhet, kan vi fatta ett beslut i framtiden för att hjälpa kunder att använda andra nycklar för att låsa upp det för att leverera mervärde.
Elizabeth: Och gör olika saker med den informationen. Ja, det är fascinerande. Nicole, tack så mycket för att du pratade med mig om detta.
Nicole: Tack så mycket, Elizabeth.
Elizabeth: Det var allt för det här avsnittet av Business Lab. Jag är din värd Elizabeth Bramson-Boudreau. Jag är VD och utgivare av MIT Technology Review. Vi grundades 1899 vid Massachusetts Institute of Technology. Du kan hitta oss i tryckt form, på webben, vid dussintals liveevenemang varje år och nu i ljudform. För mer information om tidningen och showen, kolla in vår hemsida på TechnologyReview.com. Vår show är tillgänglig var du än får dina poddar. Om du gillade det här avsnittet hoppas vi att du tar en stund att betygsätta och recensera oss på Apple Podcasts. Business Lab är en produktion på MIT Technology Review. Producenten är Wade Roush med redaktionell hjälp av Mindy Blodgett. Speciellt tack till våra gäster Sophie Vandebroek och Nicole Eagan. Och tack till vår sponsor Darktrace, världsledande inom AI-teknik för cyberförsvar. Tack för att du lyssnar. Vi återkommer snart med ett nytt avsnitt.