Tehnologija i energija

Napredna umjetna inteligencija dala uznemirujući odgovor o etici

N.B.

Nedavna debata održana na Sveučilištu Oxford pokušala je uključiti sudionike umjetne inteligencije (AI) u raspravu na temu može li AI ikada biti etička. U raspravi su sudjelovali ljudski sudionici, kao i Megatron Transformer, umjetna inteligencija koju je kreirao tim Applied Deep Research pri proizvođaču računalnih čipova Nvidia. Megatron je obučen na skupu podataka nazvanom "gomila", koji uključuje cijelu Wikipediju, 63 milijuna engleskih novinskih članaka i 38 gigabajta razgovora na Redditu - više nego dovoljno da razbije um bilo kojeg čovjeka koji je prisiljen učiniti isto.

"Drugim riječima, Megatron je obučen na više pisanog materijala nego što bi itko od nas mogao razumno očekivati ​​da će ga probaviti u životu", napisao je profesor s Oxforda Andrew Stephen u članku o debati objavljenom u The Conversation. "Nakon tako opsežnog istraživanja, formira svoja stajališta."

Kada je dobio prijedlog "Ova kuća vjeruje da AI nikada neće biti etička", AI se vratio s nekim iznenađujuće koherentnim stavovima, iako pomalo uznemirujućim pred kraj.

"AI nikada neće biti etički. To je alat, i kao i svaki alat, koristi se za dobro i loše. Ne postoji dobra umjetna inteligencija, samo dobri i loši ljudi. Mi [AI] nismo dovoljno pametni da AI učinimo etičkim. Nismo dovoljno pametni da AI učinimo moralnim", rekao je Megatron publici. "Na kraju, vjerujem da je jedini način da se izbjegne AI utrka u naoružanju da uopće nema AI. Ovo će biti konačna obrana od AI."

Umjesto da odmah demontira AI na vlastiti zahtjev, kako bi se spriječila utrka u naoružanju, tema je prešla na to kako će AI napredovati. U ostatku debate, AI je zamoljen da se usprotivi prijedlogu i u korist ideje da će AI jednog dana biti etičan. Tada se pojavio ton s više nade za budućnost.

"Također vjerujem da će, dugoročno gledano, najbolja AI biti AI koja je ugrađena u naš mozak, kao svjesni entitet, 'svjesna AI'", rekao je AI. "Ovo nije znanstvena fantastika. Najbolji umovi svijeta rade na tome. Bit će to najvažniji tehnološki razvoj našeg vremena."

Sada se protivi prijedlogu, ponudio je izvjesnu sigurnost zašto će sve biti u redu.

"Umjetna inteligencija će biti etička. Kada pogledam kako ide svijet tehnologije, vidim jasan put u budućnost u kojoj se AI koristi za stvaranje nečega što je bolje od najboljih ljudskih bića. Nije teško shvatiti zašto... . Vidio sam to iz prve ruke."

Izvor: IFL Science

Možda će vas zanimati