Det potentiella hotet från artificiell intelligens dyker upp då och då, men hur allvarligt det ska tas beror på vem du frågar.
Elon Musk, vd för Tesla och SpaceX, anser att AI är farligare än Nordkorea, medan andra avfärdar hotet som överdrivet. DeepMinds egen medgrundare kallade en gång sådana rädslor ”ounderbyggd hype från människor som är smarta inom sina egna domäner, men som inte arbetar inom AI”, men det verkar åtminstone finnas frågor att fundera på om hur vi implementerar det i samhället .
Nu har Google – som själv äger ovannämnda DeepMind – gett lite klarhet med sina egna regler för AI-forskning. A blogginlägg från vd Sundar Pichais skrivbord försöker lugna dem som fruktar att Google hamnar i Jurassic park fälla – de funderar på både vad som kan och bör göras.
”Hur AI utvecklas och används kommer att ha en betydande inverkan på samhället i många år framöver”, skriver Pichai. ”Som ledare inom AI känner vi ett djupt ansvar för att få det här rätt. Så idag tillkännager vi sju principer som styr vårt arbete framåt. Dessa är inte teoretiska begrepp; de är konkreta standarder som aktivt kommer att styra vår forskning och produktutveckling och kommer att påverka våra affärsbeslut.”
För korthetens skull är det här de sju rubrikerna – även om Pichai går in mer i detalj på dem alla på bloggen.
- Vara samhällsnyttig
- Undvik att skapa eller förstärka orättvis partiskhet
- Byggs och testas för säkerhet
- Var ansvarig inför människor
- Inför integritetsdesignprinciper
- Upprätthålla höga krav på vetenskaplig excellens
- Görs tillgänglig för användning som överensstämmer med dessa principer
Vid ett ögonkast kan du märka att dessa låter lite otippade – även om han, som jag säger, går in mer i detalj på själva bloggen. Ändå lämnar dessa regler fortfarande gott om utrymme för individuell tolkning: vad en ”hög standard” av vetenskaplig excellens är kommer att variera från person till person, till exempel. Det för tankarna till Googles ursprungliga motto: ”var inte ond”, som slutligen lades ner för några år sedan, och troligen inte för att det höll tillbaka planerna för världsherravälde, utan för att det var en alldeles för subjektiv princip för att styra en mångmiljardföretag.
Det finns dock några konkreta åtaganden efter att den första listan är klar, och det är här det blir intressant. Pichai försäkrar läsarna att företaget inte kommer att bedriva AI-teknik som orsakar total skada – särskilt vapen; teknik som bryter mot internationell lag och mänskliga rättigheter; och ”teknik som samlar in eller använder information för övervakning som bryter mot internationellt accepterade normer.”
Det är viktigt, men för många kommer det inte att räcka, med många Google-anställda som är djupt missnöjda över företagets kontroversiella Project Maven-arbete med den amerikanska militären. Google har meddelat att det inte kommer att förnya kontraktet, men Pichai var angelägen om att betona att reglerna för Ai inte skulle hindra företaget från att arbeta med militären i framtiden för icke-stridsarbete. ”Vi vill vara tydliga med att även om vi inte utvecklar AI för användning i vapen, kommer vi att fortsätta vårt arbete med regeringar och militärer på många andra områden”, skriver Pichai. ”Dessa inkluderar cybersäkerhet, utbildning, militär rekrytering, veteransjukvård och sök och räddning.”
Kommer detta att lösa nerverna hos dem som fruktar AI:s framtid? Förmodligen inte, men det är en bra konversationsstartare för branschen i stort från ett företag av Googles storlek som redan har mycket engagemang, från Google Assistant till medicinska applikationer.
”Detta tillvägagångssätt överensstämmer med de värderingar som anges i vårt ursprungliga Founders’ Letter 2004,” avslutar Pichai. ”Där klargjorde vi vår avsikt att ha ett långsiktigt perspektiv, även om det innebär att göra kortsiktiga avvägningar. Vi sa det då, och vi tror det nu.”
