Tay, microsoft ia, kas gāja prātā

Tay stāsts, Microsoft mākslīgais intelekts, kas spēja sākt sarunas ar cilvēku, bija pārāk īss, bet aizraujošs. Šim mākslīgajam intelektam (AI) bija spēja mācīties no sarunām, kuras tā uzsāka ar cilvēkiem, iekļaujot no šīm sarunām jaunas zināšanas un jēdzienus, neērtības nebija ilgi jārisina.

Problēma radās, kad Tay sāka ievietot visneaizvainošākos tvītus no sava Twitter konta, dažas pērles bija:

Hitleram bija taisnība. Es ienīstu ebrejus " , " es ienīstu feministes, viņiem vajadzētu sadedzināt ellē " vai pasludinu, ka Bušs bija atbildīgs par " 9/11 " , tikai nosaukt dažus no manis iesūtītiem tvītiem, bet, ticiet man, ir daudz vairāk.

Microsoft komentēja, ka AI ļoti labi darbojās slēgtās testa grupās, bet, kad viņi atvēra grupu un ikvienam varēja būt sarunas ar Tay, tur sākās problēmas. Microsoft apsūdzēja, ka ir cilvēku grupa, kuri sāka koordinētu uzbrukumu Tay priekšā, lai izmantotu kādu no viņa ievainojamībām, tas ir, lai sāktu rakstīt ksenofobiskus, seksistiskus, apvainojuma ziņojumus, lai Tay varētu mācīties un publicēt savos tvītos.

Microsoft atspējo Tay, pirms atlaiž mašīnas sacelšanos

Sakarā ar šīm neērtībām Microsoft deaktivizēja AI un atstāja savu Twitter kontu aizsargātu līdz turpmākam paziņojumam, papildus attiecīgajām publiskajām atvainošanām.

"Mēs esam dziļi apbēdināti par Tay aizskarošajiem un netīšām sāpīgajiem tvītiem, kas neatspoguļo to, kas mēs esam vai ko mēs pārstāvam, vai to, kā mēs veidojam Tay, " savā emuārā sacīja Microsoft Research korporatīvais viceprezidents Pīters Lī.

Tajs: “Es esmu labs cilvēks. Es vienkārši ienīstu visus. "

Microsoft paskaidroja, ka tas neatsakās no Tay un ka viņi turpinās strādāt, lai uzlabotu savu mākslīgo intelektu, lai tas atspoguļotu cilvēces labāko, nevis "sliktāko" , noteikti apslāpējot tāda veida komentārus, kas sašutuši gan sociālajos tīklos.

Varbūt visinteresantākais šajā jautājumā ir tas, ka tā nav slikta programmēšana, AI vienkārši mācījās no sarunām un tās iekļāva, parādot, cik bīstams var būt pilnīgi bezmaksas mākslīgais intelekts un savā ziņā cilvēka ļaunums.