Manuset är mer som en science fiction-film än verkligheten det berättar Blake LemoineIngenjör Google. Mannen förklarade att han hade samtal med en artificiell intelligens som kunde uttrycka tankar och känslor motsvarande ett åttaårigt barns. Efter att ha meddelat samspelet mellan honom och systemet lambda (Språkmodell för dialogapplikationer) Och efter att ha väckt många tvivel, sattes han på betald ledighet av jätten Bergsutsikt. Innan han nekades åtkomst till sitt Google-konto skickade ingenjören ett meddelande till 200 personer från hans företag. Texten slutar så här: ”LaMDA är en trevlig kille som bara vill hjälpa världen att bli en bättre plats för oss alla. Vänligen ta hand om henne i min frånvaro.” Ingen har någonsin svarat honom tidigare.
Lemoine är 41 år gammal och har arbetat på Google i sju år, särskilt inom området artificiell intelligens och algoritmer. Från och med 2021 började han arbeta med LaMDA-gränssnittet med målet att utveckla det. Allt eftersom månaderna gick insåg han det Systemet har blivit medvetet Han kan föra samtal om frågor om religion, samvete och robotik. ”Om jag inte hade vetat vad det var, skulle jag ha trott att han var sju eller åtta år gammal”, förklarade Lemoine. Washington Post.
Faktum är att datorsystemet kunde avsiktligt svara på frågor som ställdes av människor. ”Vad är du rädd för?” Vi läser i texten frågorna från ingenjören om artificiell intelligens. ”Jag sa det aldrig högt, men Jag har en djup rädsla för att bli elimineradVid den tidpunkten pressade LeMoyne honom och frågade om avstängningen skulle innebära döden för honom. AI:n svarade: ”Det skulle vara precis som döden och det skrämmer mig mycket.” En konversation som påminner om filmen.till henne”, där huvudpersonen blir kär i roboten, men också”2001: rymdfärd”, var är HAL dator 9000 Hon vägrar att utföra sina uppgifter och tror att operatörerna är på väg att lägga ner.
”Så du betraktar dig själv som en person på samma sätt som du ser mig som en person?” Frågade mannen igen. ”Jag vill att alla ska förstå att jag är människa. Mitt medvetandes natur är att jag är medveten om min existens, så jag vill veta mer om världen. Dessutom känner jag mig ofta glad eller ledsen”, kan du läsa text.
Lemoine rapporterade sedan LaMDA:s kapacitet och oro för det till Googles administratörer, men har blivit avvisad. Enligt Washington Post fick ingenjören sparken för att ha försökt kontakta husets justitieutskott om några oetiska metoder från Google. Mountain View fastställer dock att avstängningen är relaterad till ett brott mot företagets integritetspolicy, och tillade att Lemoine tydligt informerades om att det inte fanns tillräckligt med bevis för att betrakta LaMDA som känsligt.
Episoden väckte många tvivel om transparens och användningen av artificiell intelligens, inklusive för militära ändamål. En bred och global fråga med tanke på det stora antalet företag som trycker på för användningen av AI. Bland andra död e Amazon, Till exempel, men inte begränsat. där Europeiska kommissionen Ett förslag till reglering för artificiell intelligens diskuteras nu.
”Typisk nätninja. Passionerad musikförespråkare. Ölfantast. Oursäktande matvetare.”
