AI - ditt kräk

Som ni kanske minns blev FruEB rädd för AI efter att ha sett Black Mirror säsong 4 avsnitt 5. Den där vidriga lilla robothunden med sin Lidarsyn och sin helt överjävliga intelligens i kombination med total avsaknad av empati. Höll mig vaken i en vecka.

Här plockar den en kniv

Därför suger jag åt mig som en svamp så fort det snackas AI. Och för inte så länge sedan läste jag en artikel i TIME om Lili Cheng - VD för Microsoft AI & Research, som gjorde mig lite lugnare. Låt mig förmedla artikeln i korthet:


AI är inget nytt eller en revolution som kommer att överrumpla oss över natt. Automatiska stavningskontroller, självkörande bilar eller röstkommandon i GPS:en är alla resultat av årtionden av utveckling. Kärnan i utvecklingsarbetet kring AI handlar om att få tekniken att anpassa sig till oss snarare än tvärt om. En viktig del är att avgränsa var AI kan användas och var det inte kan användas. Exempelvis är det mänskliga språket fullt av fallgropar. I allt från interaktionen i en affärsförhandling till samtalet under en date, är människans språk fullt med dolda antydningar och vaga formuleringar. Framtiden i AI kommer att handla om att få tekniken att förstå när den är användbar och när den måste hållas tillbaka. Men vad behöver vi den till? Lili är naturligtvis partisk givet att hon jobbar med det hon gör (företrädesvis utveckling av språk i AI-applikationer), men framför allt är AI behjälpligt i att ur enorma mängder data vaska fram information som kan generera lösningar inom energi och klimat, hälsovård, transport mm. Exempelvis är AI bättre på att diagnosticera såväl hjärtsjukdom som lungcancer än riktiga läkare - detta eftersom det är så många parametrar som måste "matas in" för att hitta rätt behandling.


Allt det här låter ju finemang och bra och så...men ändå känner jag en liten klump i magen. Det är ju inga dumhuven direkt som varnar för farorna med AI och AI takeover - såväl Elon Musk som Steven Hawking är ju rätt smarta. Om de är oroliga borde jag vara det, eller hur?


AI-forskaren Stuart Russell säger:

The primary concern is not spooky emergent consciousness but simply the ability to make high-quality decisions.

1. The utility function may not be perfectly aligned with the values of the human race, which are (at best) very difficult to pin down.
2. Any sufficiently capable intelligent system will prefer to ensure its own continued existence and to acquire physical and computational resources — not for their own sake, but to succeed in its assigned task.

Det är exakt detta jag tycker är så obehagligt med Black Mirror-avsnittet med robothunden. Den är helt obrydd om sin egen existens - den har ju ingen självmedvetenhet. Den vill bara slutföra sin uppgift - att jaga ner och döda sin måltavla. Övertalning, lockbeten, mutor, kärlek - ingenting kan få den att ändra sig. Den är så att säga väldigt saklig.


Nu blev det här inlägget lite osammanhängande. Först var jag skraj, sen var jag lugn och nu jagade jag upp mig igen. Men jag tänker så här - vad vi tror idag kommer AI att leda till många bra saker exempelvis inom miljö och hälsa. Potentiellt finns en baksida om man handskas vårdslöst med tekniken - och här pågår en debatt bland såväl utvecklare som intresseorganisationer. Jag får helt enkelt sätta min lit till att man tar rätt beslut. Eller om man vänder på det - vad har jag för val?


Är du rädd för AI?




Maxine Peake som Bella i Metalhead

Mvh/
FruEfficientBadass