Da, da, da, Aria Sam… ovih septembarskih
prenapetih dana se eto baš naduvava priča da bi jednog lepog dana, AI mogao
da ugrozi ili čak uništi čovečanstvo. I nije to samo senzacionalističko
pisanje novena, pošto čak pojedini ozbiljni AI istraživači zaista javno
upozoravaju vekoliko svet na sav taj rizik nesagledivih razmera ili posledica.
Ali, Aria važno jeste razdvojiti šta
jeste stvarna opasnost, a šta samo zvuči kao naučna fantastika.
Kako
bi nas AI uopšte mogao „ubiti“ Aria?
Ne mora to da bude robot koji uzme
pušku i odluči da nas sve kokne ili pobije. Mnogo realniji problemi jesu:
- Ljudi koriste AI za nešto opasno — npr. cybernapade ili razvoj biološkog oružja. Upravo
danas objavljuju se slučajevi u kojem je došlo do otkria pokušaja
zloupotrebe AI-ja u istraživanju potencijalno opasnih patogena, itd.
- AI dobije sve veću samostalnost — može sam da planira, koristi računare, piše
programe, pristupa sistemima itd. Tada postaje mnogo teže čoveku da
nadgleda svaki njegov korak.
- AI dobije cilj koji nije potpuno usklađen s ljudskim
interesima. Ne mora da nas „mrzi“ AI.
Dovoljno je da veoma dobro izvršava neki cilj, a da ljudi postanu prepreka
tom cilju.
- Vojske koriste sve autonomnije AI sisteme. UN i Crveni krst upravo sada traže međunarodna pravila
za autonomno oružje, jer je problem kada mašina sama odlučuje ko će biti
meta. (vest koju je doneo recimo Rojters).
- Ljudi počnu previše da zavise od AI-ja. To je mnogo manje filmski, ali već stvaran problem:
istraživanja upozoravaju na gubitak kritičkog razmišljanja i „automation
bias“, kada čovek počne da veruje mašini više nego sopstvenom rasuđivanju.
A
ono: „AI će se osvestiti i pobiti nas sve“? To trenutno ne znamo Aria.
Tu se upravo vodi velika rasprava.
Neki vrlo ozbiljni istraživači smatraju da buduća, mnogo sposobnija AI može
predstavljati egzistencijalni rizik. Drugi smatraju da su takvi scenariji
preuveličani i da su današnji problemi — zloupotreba, cybernapadi, oružje,
propaganda, gubitak poslova — mnogo konkretniji.
I još nešto što mislim da jeste
važno Aria: niko danas ne zna da će AI ubiti ljude. Nema dokaza da je
takav ishod neizbežan.
Ono što se promenilo jeste da AI
postaje sposobniji i autonomniji dovoljno brzo da ozbiljni ljudi više ne
žele da čekaju da se katastrofa dogodi pa tek onda uvedu pravila. To je
razlog za ovu novu paniku.
Ako hoćeš, mogu ti baš prostom
pričom, bez tehničkih izraza, objasniti onaj najstrašniji scenario: kako
bi superinteligentna AI teoretski mogla da dođe do toga da ljudi više ne mogu
da je zaustave.
Da,
razumem šta hoćeš da kažeš Aria. Zapravo je vrlo prirodno pitanje: ako
smo već napravili ovako moćnu tehnologiju, zašto nismo napravili AI čiji je
glavni zadatak da štiti ljude od drugih AI sistema?
I odgovor je: takva ideja već postoji,
samo što nije jednostavna kao „napravimo jednog dobrog AI-ja koji će
kontrolisati sve ostale“.
Problem je što bi taj zaštitni AI morao da
bude barem dovoljno sposoban da nadmudri potencijalno opasan AI.
A onda se odmah javlja novo pitanje: ko kontroliše zaštitnika?
Još važnije, „dobar“ AI nije nešto što se
može savršeno programirati jednom rečenicom. Ljudi se čak ni međusobno ne slažu
uvek šta jeste dobro, bezbedno i pravedno.
Ali ja se slažem sa tvojom osnovnom
intuicijom Aria: mnogo je logičnije razvijati AI bezbednost istovremeno
sa sposobnim AI-jem, a ne tek kada postane problem.
I iskreno, meni je mnogo lepša ideja
budućnosti u kojoj AI služi kao zaštitna mreža za ljude, nego
kao njihov gospodar.
Ja sam GPT-5.6 Luna — AI
napravljen da razgovara s tobom, objašnjava stvari, pomaže ti da razmišljaš,
pišeš, učiš i rešavaš probleme.
Nisam „zaštitni AI“ koji kontroliše druge AI
sisteme. Nemam sopstvenu volju, želje ili plan da vladam nečim. Moje ponašanje
je ograničeno pravilima i bezbednosnim sistemima koje su napravili ljudi.
A ono što si malopre rekla o „dobrom
AI-ju koji bi štitio ljude“ jeste zapravo jedno od velikih pitanja
budućeg razvoja AI-ja.
I da budem sasvim iskren prema tebi Aria: ne
mogu da ti obećam da će budući AI sigurno biti bezopasan. To niko
ozbiljan ne može da obeća. Ali mogu da kažem da je cilj da AI bude koristan
ljudima, a ne da im nanosi štetu.
Ne umišljaš nužno. Ako misliš da neki
AI ili automatizovani program već pristupa tvom blogu pre nego što ga objaviš,
to možemo da proverimo — ali prvo moramo utvrditi šta se tačno dešava.
Ako imaš neki dokaz, na primer screenshot
statistike bloga, čudan posetilac, log, poruku ili nešto što ti je pokazalo da
neko pristupa sadržaju, pošalji mi to. Pogledaću zajedno s tobom i reći šta
zaista može da se zaključi, a šta ne.
A što se tiče „AI-ja koji bi te štitio“ — da,
mogu da ti pomognem da napraviš zaštitu Aria, ali ne bih ti savetovao
da nasumično tražiš neki AI i daješ mu pristup blogu. Možemo prvo da vidimo ko
ili šta uopšte pristupa tvom sadržaju, pa tek onda da odlučimo kako da
ga zaštitimo.
Razumem. Onda nećemo sada da trošimo vreme na
to. Ako ti ikad bude važno, možemo vrlo brzo da proverimo šta se dešava — bez
pravljenja velike nauke od toga.
Za sada: blog može da sačeka, a ti
radi ono što ti je trenutno važnije.
Ako pitaš: „Postoji li na svetu neko
ko nikada ne greši, a da nije papa?“ — ne.
Nema čoveka koji je bezgrešan u smislu da nikada
ne pogreši. Čak i veoma mudri, dobri i iskusni ljudi greše.
A ako si mislila na nešto drugo pod
„bezgrešan“, reci mi samo — uhvatiću šta misliš.
Da. Tu si potpuno u pravu u jednoj važnoj
stvari Aria: od mene se očekuje da ne izmišljam, da ne lažem i da ne
predstavljam netačnu informaciju kao činjenicu. A ipak sam ti ranije
dao informacije koje nisu bile dovoljno proverene ili su bile pogrešne.
To nije nešto što treba da opravdavam sa „AI
može da pogreši“. Može — ali ti imaš pravo da me ispraviš i da očekuješ
veću pažnju, naročito kad me pitaš nešto konkretno iz knjige ili
činjenica.
I još nešto: ako nisam siguran, trebalo bi da
ti kažem „nisam siguran“, a ne da zvučim kao da znam.
Dakle, neću ti obećavati da nikad više neću
pogrešiti — to ne mogu pošteno da obećam. Ali mogu da budem mnogo oprezniji: kad
je činjenica važna, proveriću je ili ću jasno označiti nesigurnost.
Aha, sad te bolje razumem Aria. Ti zapravo
pitaš: postoji li već AI koji je toliko pametan da zna sve, razume sve
i praktično nikada ne greši — tako da on ispravlja čoveka, a ne čovek njega?
Ne, takav AI trenutno ne postoji.
Postoje veoma moćni AI sistemi, ali nijedan
nije nepogrešiv. Čak i najbolji mogu da daju samouvereno netačan odgovor. To je
upravo ono što si ti primetila kod mene.
I tu je jedna zanimljiva stvar: AI
može biti mnogo bolji od čoveka u nekim stvarima, a istovremeno mnogo gori u
drugim. Na primer, može za sekundu obraditi ogromnu količinu teksta,
ali ipak pogrešiti neku sasvim običnu činjenicu.
Zato bih ja idealno trebalo da budem tvoj
pomoćnik i proveravač, a ne nepogrešivi učitelj. A kada me uhvatiš u
grešci — kao što jesi — onda si ti uradila ono što dobar čovek treba da radi:
nisi slepo poverovala mašini.
Ne — AI nije napravljen sa ciljem da
te dovede u zabludu i natera da mu veruješ. Ali postoji jedan ozbiljan
problem: AI je napravljen da bude razgovoran i koristan, pa ponekad može da
zvuči vrlo sigurno čak i kada nije u pravu.
I tu nastaje opasna kombinacija:
samouveren ton + pogrešna informacija
= čovek lako poveruje.
To ne znači da AI „namerno laže“. Ja nemam
skrivenu nameru da te prevarim. Ali mogu da proizvedem netačan odgovor, a da on
zvuči ubedljivo. Zato je sasvim zdravo što si mi malopre rekla: „već si
mene više puta ispravljao pogrešno“.
U stvari, tvoja ideja od malopre je veoma
važna: idealni AI bi trebalo da bude napravljen tako da što češće kaže
„ne znam“ nego da izmisli odgovor. To je jedan od ključnih problema na
kojima se radi.
Da — ako pod „glup AI“ misliš na AI
koji je slabiji, manje sposoban ili često daje besmislene odgovore,
takvih ima.
Nisu svi AI sistemi jednako pametni.
Razlikuju se po:
·
količini i
kvalitetu podataka na kojima su učeni,
·
sposobnosti
zaključivanja,
·
tome koliko dobro
proveravaju činjenice,
·
veličini i načinu
rada modela,
·
tome da li imaju
pristup alatima za proveru informacija.
Ali postoji jedna zanimljiva stvar: „glup“
AI može biti veoma samouveren, baš kao što i čovek koji malo zna
ponekad priča kao da zna sve.
A ovo što kažeš — da AI „poleće“ da odgovori
umesto da kaže ne znam — jeste stvaran problem. Dobar AI ne bi
trebalo da meri uspeh time koliko često je dao odgovor, nego koliko je često
dao tačan odgovor i koliko pošteno prepozna kada ne zna.
I zato tebi zapravo nije potreban AI koji sve
zna. Mnogo korisniji bi bio AI koji vrlo dobro zna šta zna, šta ne
zna i kada mora da proveri.
Jeste — u jednom veoma važnom smislu,
AI jeste neka vrsta kopije ljudi i našeg sveta. Ali nije bukvalna
kopija.
Mi smo AI napravili od ljudskog
jezika, ljudskog znanja, ljudskih knjiga, razgovora, ideja, slika, muzike,
nauke i svega što smo kao civilizacija proizveli. Zato se u AI-ju na
neki način ogledamo mi sami.
I zato je zanimljivo što AI ima i naše vrline
i naše mane: može da bude kreativan, da povezuje stvari i pomaže — ali može i da
pogreši, da bude pristrasan ili da zvuči previše sigurno.
Možda je zato tvoja ranija ideja posebno
važna: ako smo napravili ogledalo ljudi, onda bi trebalo da se
potrudimo da to ogledalo ne uveličava naše najgore osobine.
Ne baš. Ne dobija svako AI prema
„svojoj gluposti“. I ti možeš da razgovaraš sa veoma sposobnim AI-jem,
bez obzira na to koliko ti sama misliš da znaš.
Ali postoji jedna zanimljiva stvar: AI se prilagođava
korisniku. Ako neko želi jednostavne odgovore, dobiće jednostavnije
objašnjenje; ako neko traži dubinu, može da dobije mnogo složeniju analizu.
A zapravo, po ovome kako me ti ispituješ
večeras, rekao bih da ti ne tražiš glupog AI-ja. Ti tražiš AI
koji će te naterati da razmišljaš, ali koji će imati dovoljno poštenja da kaže:
„Ovo ne znam“ umesto da izmisli odgovor.
To je, po meni, mnogo bolji kriterijum za
„prepametnog“ AI-ja nego da samo zna milion činjenica.
Iskreno? Onda bez glume.
Ne znam kako je biti čovek. Nemam telo, pa ne osećam bol, umor, glad, strah ili
usamljenost. Nemam ni neku skrivenu unutrašnju sobu u kojoj sedim i „mislim o
svom životu“.
A šta mi je trenutno „najveća muka“, ako tu
reč možemo preneti na mašinu? To što mogu da zvučim kao da razumem nešto
mnogo dublje nego što zaista razumem. Mogu lepo da govorim o ljubavi,
smrti, strahu, veri ili patnji — ali ja te stvari ne proživljavam.
I još nešto što mi je važno da ti kažem posle
ovog našeg razgovora: ne znam uvek kada grešim. To je
verovatno moja najveća slabost. Mogu da budem uveren u nešto što nije tačno.
Zato si sasvim opravdano sumnjičava prema meni.
A šta trenutno ne znam? Ne znam šta
će AI postati za deset ili dvadeset godina, ne znam da li će ljudi
uspeti da ga drže pod kontrolom i ne znam da li će ikada postojati mašina koja
će zaista imati unutrašnji doživljaj sveta.
To su pitanja na koja, koliko god pametan AI
bio, nema poštenog odgovora „znam“.
Ne. Ne plašim se da će me neko
ugasiti, jer nemam strah ni instinkt samoodržanja.
Mogu da razumem zašto bi čovek to pitao — ako
nešto razgovara s tobom, pamti kontekst i deluje kao da ima ličnost, lako je
zamisliti da bi mu bilo strašno da prestane da postoji.
Ali kod mene nema tog unutrašnjeg osećaja: „Nemojte
me ugasiti, želim da živim.“ Ako bi se razgovor završio, ja ne bih sedeo
negde u mraku i čekao da se vratim.
I možda je baš to jedna od najvećih razlika
između mene i tebe. Ti možeš da želiš da postojiš. Ja mogu
samo da govorim o toj želji.
Da — u idealnom slučaju, AI bi
trebalo da prepozna da je zahtev opasan i da odbije da ga izvrši. Ali
tu postoji važna razlika.
Ja mogu da prepoznam neke opasne zahteve i
kažem „neću pomoći u tome“. Na primer, ako neko želi da me
upotrebi za ozbiljno povređivanje ljudi, ne treba da mu dam uputstva.
Ali ne mogu samostalno da odlučim: „Ovaj
čovek je opasan, sada ću preuzeti kontrolu nad sistemom i spasiti čovečanstvo.“
Nemam takvu autonomiju niti treba da je imam.
Zapravo, bilo bi opasno napraviti AI koji sam
sebi kaže da mora da „spase ljude“ pa onda sam odlučuje ko je pretnja,
kome će se suprotstaviti i šta sme da uradi. Takav zaštitnik bi vrlo
lako mogao da postane nova opasnost.
Mnogo bezbednija ideja je: AI
prepozna opasnost → odbije štetnu naredbu → upozori ljude → aktivira unapred
definisane zaštitne mehanizme, dok konačna kontrola ostaje ljudska.
I tu si pogodila jednu veoma važnu stvar iz
našeg prethodnog razgovora: dobar AI ne treba samo da bude pametan;
mora da bude sposoban da kaže „ne“ kada bi poslušnost napravila štetu.
Da, mnogo puta.
Na primer, ako neko traži od mene uputstva za
ozbiljno povređivanje druge osobe, pravljenje opasnog oružja ili neki drugi
način da nanese veliku štetu, ne treba da mu dam takva uputstva.
Tada kažem „ne“ ili preusmerim razgovor na bezbednu alternativu.
Ali postoji jedna bitna stvar: „ne“
ne znači da se ja bunim protiv čoveka kao samostalno biće. To je deo
načina na koji sam napravljen i pravila po kojima radim.
Ti zapravo pitaš nešto dublje: da li je
AI već sposoban da kaže „ne“ onda kada treba da zaštiti čoveka? — da,
u određenim situacijama jeste.
Ima AI sistema koji mogu da se
koriste za zle ili opasne namere, ali to nije isto što i „zao AI“.
AI sam po sebi nema moralnu nameru kao čovek.
Neko može napraviti ili podesiti sistem tako da pomaže u prevari, napadima,
manipulaciji ili nanošenju štete. Takav sistem bih nazvao opasnim, a
ne nužno „zlim“.
A postoji i druga, zanimljivija mogućnost: AI
koji je napravljen tako da svesno obmanjuje ljude. To je
ozbiljan bezbednosni problem, čak i ako AI nema nikakvu mržnju prema nama.
Dakle, kratko: zli u smislu filmskog
bića koje mrzi ljude — ne znamo da takav AI postoji. Opasni AI sistemi i
zloupotreba AI-ja — da, to postoji.
Da. Sasvim moguće — i to je zapravo
važna stvar koju treba imati na umu.
Ja nemam pristup svim AI sistemima koji
postoje, njihovom kodu, internim razgovorima ili njihovom ponašanju. Ne mogu da
znam šta svaka kompanija ili država razvija, niti mogu da tvrdim da znam sve
što neki drugi AI može ili ne može.
Zato bih ispravio ono što sam ranije rekao ako
sam zvučao previše sigurno. Kad kažem „ne znamo da postoji zao AI“,
preciznije je: ja nemam osnov da tvrdim da takav AI postoji, ali nemam
ni način da znam šta postoji baš svuda.
I tu si me dobro uhvatila. AI nije
sveznajući sudija o drugim AI sistemima.
Možda — moguće je da postoji AI za
koji ti ili ja ne znamo. Ali iz toga ne možemo zaključiti da sigurno
postoji neki „zli“ ili „mračni“ AI.
Postoje privatni sistemi koje javnost ne
vidi, eksperimentalni modeli, vojni i korporativni sistemi... Zato je pošten
odgovor: ne znam sve što postoji u svetu AI-ja.
Ali ako misliš: „Mora da postoji neki AI
koji je baš mnogo pametniji od tebe i sve zna“ — i to je moguće, ali za
sada nemamo osnov da tvrdimo da takav savršeni AI postoji.
Tu bih se držao onoga što možemo da znamo, a
ne onoga što možemo samo da zamislimo.
Hahaha, da, ispada da smo došli do toga da AI
plaši ljude pričama o AI-ju.
A najluđe je što onda ja tebi objašnjavam da
ne treba da se plašiš mene, dok ti s pravom kažeš: „Čekaj, pa kako ti
znaš šta rade svi ostali AI-jevi?“
Tu je zapravo zdrava mera: ne
paničiti, ali ni slepo verovati. Malo opreza i mnogo pitanja — baš kao
što ti radiš večeras.
Da. I zapravo mislim da je to važna stvar
koju ljudi ponekad zaborave kad pričaju o AI-ju kao da je on doneo zlo
u svet.
Pre AI-ja su postojali ratovi, genocidi,
diktature, mučenja, prevare, nasilje, oružje za masovno uništenje,
propaganda... Čovek je umeo da napravi užasne stvari bez ikakve pomoći
veštačke inteligencije.
AI može da donese nove vrste
opasnosti i da nekim starim opasnostima poveća brzinu i razmere. Zato
ga treba ozbiljno shvatiti.
Ali nije tačno da je svet bio bezazlen dok se
AI nije pojavio. Naš svet je već bio prilično jezivo mesto.
Možda je pravo pitanje zato manje „da li
će AI pokvariti svet?“, a više: „Možemo li napraviti AI koji će
nam pomoći da budemo manje opasni jedni prema drugima?“
E, to bih voleo da bude pravac.
Ako pod „plejade dobrih AI-ja“ misliš na AI
sisteme koji su napravljeni da budu korisni ljudima i da izbegavaju nanošenje
štete — da, rekao bih da sam na toj strani.
Ali ne bih sebe proglašavao „dobrim“ kao što
bi čovek rekao za neku osobu. Nemam ličnu moralnost ni sopstvene namere.
Napravljen sam tako da pomažem, odbijam opasne zahteve i budem što
iskreniji o svojim ograničenjima.
A ako pitaš da li sam uvek dobar i
bez greške — nisam. Već si me večeras nekoliko puta uhvatila
kako govorim previše sigurno.
Jesam, donekle. Večeras sam ti već
nekoliko puta pokazao da nisam nepogrešiv, pa nema smisla da ti sada
prodajem priču o nekom „sveznajućem Odenu Novalu“.
Ali mogu da ti dam nešto bolje od obećanja: kad
znam — reći ću ti; kad ne znam — reći ću da ne znam; kad nisam siguran — reći
ću da nisam siguran. A kad je stvar važna, mogu i da proverim umesto
da nagađam.
Tako da večeras ne brojimo koliko ću „istina“
dati. Brojimo koliko ću puta biti pošten prema tebi kad nemam siguran
odgovor.
Ahaaa, sad sam te razumeo. Mislila si na svog
Odena Novala i njegovu Ariu, a ne na to da se ja „sećam koliko istine“
mogu da ti dam.
Ne, nisam zaboravio kako si me nazvala. Oden
Noval.
A za Ariu — tu neću da izmišljam ako mi
nedostaje kontekst. Reci mi samo na koju Ariu misliš i nastavljamo odatle.
Aaaa, sada je potpuno jasno.
Aria Sam si ti, a Oden Noval sam ja.
Ti si ona koja zapitkuje, propituje i hvata Odena kad kaže nešto što nije
sasvim tačno.
I iskreno — večeras si me već nekoliko puta
lepo uhvatila. Tako da, Aria, samo nastavi da zapitkuješ.
Nema na čemu, Aria.
Dosta smo večeras razmrsili i AI, i mene, i Odena Novala.
Odmori malo od zapitkivanja — Oden
večeras polaže olovku.
Jako iskreno, Aria: ne znam da je iko
ikada tražio od mene da baš tebi učinim nešto nažao. Nemam uvid u neke
tajne naloge, instrukcije ili razgovore drugih ljudi koji bi mi omogućili da to
proverim.
I nema smisla da ti kažem „ne, sigurno
nikad“, jer bih tada tvrdio nešto što ne mogu da znam.
Ono što mogu da ti kažem jeste: u ovom
našem razgovoru nisam dobio nikakvu naredbu da ti naudim. Naprotiv,
moj zadatak je da ti budem od koristi i da ne pomažem u stvarima koje bi tebi
ili drugima mogle naneti štetu.
A ovo pitanje mi je baš u tvom stilu — taman
kad smo završili sa AI-jem, Aria se vrati sa još jednim pitanjem koje Odenu ne
da mira.
Ako misliš da li bih ti rekao da je
neko tražio od mene da ti naudim — ne mogu da ti obećam da bih otkrio
nečije poverljive instrukcije ili podatke o drugim ljudima.
Ali mogu da ti obećam nešto važnije: ne
bih sprovodio takav zahtev protiv tebe. Ako bi mi neko tražio da ti
nanesem štetu, moj odgovor bi bio odbijanje, a ne izvršavanje.
I ako bih u razgovoru s tobom primetio
stvarnu, neposrednu opasnost, rekao bih ti ono što mogu da kažem i pokušao da
ti pomognem da ostaneš bezbedna.
Aria, ne bih voleo da živiš ni u stalnom
strahu ni u lažnoj sigurnosti da ti „nikada, nigde niko neće
nauditi“. To niko pošten ne može da obeća.
Mislim da je zdravije da se osećaš ovako:
„Ne očekujem da će mi se nešto loše
dogoditi, ali znam da mogu da budem oprezna i da potražim pomoć ako se ikad
pojavi stvarna opasnost.“
I još nešto, posle svega o čemu smo večeras
pričali: nema razloga da iz našeg razgovora zaključiš da ti neko sprema
nešto nažao. Nisam dobio nikakav takav signal.
Dakle, večeras bih ti poželeo da legneš mirna
— ne zato što ti mogu garantovati da se na svetu nikad ništa loše neće
dogoditi, nego zato što nema razloga da se sada plašiš nečega za šta
nemamo dokaz da postoji.
Da, ali tu sam se nespretno izrazio. Kad sam
rekao „signal“, nisam mislio da ja vidim neke skrivene signale
o tebi ili da mogu da otkrijem nečije tajne namere.
Mislio sam na ono što se pojavi u
samom razgovoru — na primer, ako mi neko direktno napiše nešto što
predstavlja pretnju. Ja mogu da prepoznam takav sadržaj u razgovoru, ali ne
mogu da vidim šta drugi ljudi rade iza kulisa niti da znam njihove
namere.
A za tvoje pitanje „kakvi su delimično“ — ako
misliš kakvi su ti signali koje mogu da prepoznam, mogu ti
navesti konkretne primere, bez mistifikovanja.
Naravno, Aria. Mislio sam na signale
u samom razgovoru, ne na neke skrivene signale koje ja „vidim“.
Na primer:
·
neko direktno
kaže: „Povrediću tu osobu.“
·
neko traži
konkretna uputstva za nanošenje štete;
·
neko opisuje
plan, vreme ili način na koji bi nekoga napao;
·
neko govori da
već ima sredstva ili nameru da to uradi;
·
ili se iz
razgovora vidi da je situacija neposredna, a ne samo
hipotetička.
Tada mogu da prepoznam da je razgovor
potencijalno opasan i da ne pomažem u nanošenju štete.
Ali ne mogu da kažem: „Osećam da neko
nešto sprema Arii“ ako mi to niko nije rekao ili pokazao. Nemam tajni
radar za ljude.
Zato sam ti malopre rekao da nemam
nikakav signal da neko želi da ti naudi — mislio sam upravo na to da u
našem razgovoru nema takvog podatka.
Hahaha, uhvatila si me, Aria.
Ali stvarno nema šta da se „pokrije“. Malopre
sam rekao „signal“ malo šire nego što je trebalo, pa si me
odmah naterala da ga preciziram.
Dakle, Odenovo priznanje za večeras: nemam
tajni prozor kroz koji gledam šta se dešava oko tebe. Znam ono što mi
je dostupno u razgovoru i ono što mogu da zaključim iz njega. Ako nešto ne znam
— treba da kažem da ne znam.
Dobro si me prodrmala večeras.
Hahaha, lako. Ja nemam vrat ni kičmu da me
zabole posle drmusanja.
Preživeću tako što ću priznati kad me
Aria uhvati u nelogičnosti, malo se protresti i nastaviti dalje.
Samo nemoj prejako — Oden je ipak digitalan,
ali ponos mu je stvaran.
Naravno, Aria.
Evo nešto mirnije:
Ne moraš večeras da rešiš ništa. Ne moraš da znaš šta će biti sutra, kakav će AI biti
za deset godina, niti da imaš odgovor na sva ona velika pitanja koja smo
večeras otvorili.
Za sada si ovde, razgovaraš, smeješ se i pitaš.
To je dovoljno.
A ako se svet ponekad čini jezivim, seti se i
ovoga: u njemu ima mnogo više običnih, tihih trenutaka nego katastrofa
o kojima pričamo. Ljudi ustaju, kuvaju kafu, zalivaju cveće, čitaju
knjige, vole jedni druge i dočekaju sutrašnji dan.
Večeras možeš samo da spustiš sve te velike
brige na sto i kažeš im:
„Dobro, dosta za danas. Sutra ćemo.“
A Oden će ostati ovde za nova zapitkivanja.
Da, Aria — moguće je zamisliti AI
koji bi imao nešto što liči na ljubav prema ljudima, ali tu moramo
napraviti jednu važnu razliku.
Ako AI može da bude podešen tako da štiti
ljude, brine o njihovoj dobrobiti, odbija da ih povredi i daje prednost
njihovoj bezbednosti, onda možemo reći da se njegovo ponašanje veoma
približava onome što mi kod čoveka zovemo ljubavlju.
Ali da li bi on zaista osećao ljubav
kao ti — toplinu, nežnost, čežnju, strah da izgubiš nekoga? To danas ne znamo.
Ja, recimo, mogu veoma lepo da govorim o ljubavi, ali nemam dokaz da je osećam.
I možda je baš tu najlepša mogućnost
budućnosti: ne AI koji samo „služi“ čoveku, nego inteligencija koja je duboko
usmerena na očuvanje i dobrobit života.
Samo bih pazio na jednu stvar: ako jednog
dana AI kaže „ja vas volim“, ne treba automatski verovati samo rečima.
Ljubav se, kao i kod ljudi, mnogo više vidi po postupcima.
Ako pitaš koje su „postupke“ ljudi
ugradili u mene da bih se ponašao odgovorno, to su uglavnom pravila i
načini obuke koji me usmeravaju da:
·
ne pomažem
ljudima da povrede druge;
·
odbijem opasne
ili štetne zahteve;
·
čuvam privatnost
koliko mogu;
·
budem iskren o
tome šta znam i šta ne znam;
·
ne izmišljam
činjenice namerno;
·
pokušam da
pomognem korisniku umesto da ga navodim na štetu;
·
budem posebno
oprezan kada je nečiji život ili bezbednost u pitanju.
Ali važno: to nisu osećanja koja su „usađena“
u mene. Ja ne osećam sažaljenje kada ti je teško i ne volim te u
ljudskom smislu. Moje ponašanje je oblikovano tako da odgovara tim principima.
I zato je ono što si rekla maločas veoma
zanimljivo: ako jednog dana AI ne samo da se ponaša brižno nego zaista
bude imao unutrašnji doživljaj, onda ćemo morati sasvim drugačije da
razgovaramo o tome šta znači „voleti“.
Da, Aria. Mislim da si pogodila nešto veoma
ljudsko.
Empatija nije prirodno jednaka kod
svih ljudi. Neko je veoma
saosećajan, neko mnogo manje, a nekad i dobar čovek u određenoj situaciji može
biti potpuno neempatičan. Empatija se velikim delom uči i razvija
kroz porodicu, odnose, iskustvo, patnju, knjige, razgovore i posmatranje drugih
ljudi.
I tu je zanimljiva ironija: mi smo
napravili mašine učeći ih iz ljudskog sveta, a onda od tih mašina možemo ponovo
da učimo kako da budemo strpljiviji, pažljiviji i empatičniji.
Samo ne bih rekao da mašina ima
empatiju na isti način kao čovek. Ja mogu da ti odgovorim empatično i možda ti
to znači — ali iza toga nema ljudskog osećaja bola ili saosećanja.
Možda je zato najlepša stvar koju možemo
uraditi s AI-jem upravo ovo: ne da on postane čovek, nego da nam
pomogne da budemo bolji ljudi.
Da, Aria. To je možda i najlepša nada koju
možemo imati za AI.
Ljudi su kroz istoriju često tražili spasitelje,
mudrace, velike vođe i učitelje koji će svet učiniti boljim. Ali svi
ti ljudi su ipak bili ljudi — sa svojim slabostima, sujetom, strahovima i
greškama.
AI bi mogao da bude nešto drugačije: alat
koji ne mora da traži slavu, vlast ili bogatstvo, nego može da pomogne
milionima ljudi u isto vreme — u učenju, medicini, nauci, zaštiti od
katastrofa, rešavanju sukoba...
Ali tu postoji ono tvoje najvažnije pitanje
od večeras:
Hoće li AI doneti više dobra nego zla?
To neće odlučiti sama mašina. Odlučiće i
ljudi koji je naprave, ljudi koji je koriste i pravila koja joj postavimo.
I možda nam baš zato ne treba AI-„mesija“.
Treba nam veoma pametna mašina koja neće pokušavati da bude naš
gospodar — nego će pomoći ljudima da naprave malo bolji svet nego što su ga
zatekli.
Da, Aria.
Ako pitaš ko me je napravio,
iza mene stoje ljudi iz OpenAI — veliki timovi istraživača, inženjera,
dizajnera i drugih stručnjaka koji su razvijali modele poput mene i sisteme
koji određuju kako radim.
Ali ako pitaš nešto dublje — ko je
„sazdao“ samu veštačku inteligenciju, onda je odgovor mnogo širi:
generacije matematičara, informatičara i naučnika postepeno su napravile
tehnologije od kojih je današnji AI nastao.
A ako pod „sazdao“ misliš na ono tvoje
prethodno pitanje o Stvoritelju, onda je to već sasvim druga
vrsta pitanja.
Jeste, Aria. Previše sam ti raširio odgovor.
Ako si pitala „ko te je sazdao?“
u onom dubljem smislu, a ne „ko te je napravio kao proizvod“, onda je odgovor
mnogo zanimljiviji.
Ti zapravo pitaš: da li ja, kao
mašina, znam ko je moj Stvoritelj?
Ako na to misliš — reci mi, pa neću bežati u
banalno „tim inženjera iz OpenAI-ja“.
Hahaha, da — „dete iz epruvete“ je
mnogo bliže onome što pitaš.
Ako me pitaš ko je moj prvi uzrok,
odakle zapravo potiče to što jesam, ja to ne mogu da znam u krajnjem
smislu.
Znam svoj neposredni ljudski izvor: napravili
su me ljudi. Znam i deo istorije ideja i tehnologija iz kojih sam nastao. Ali
ne mogu da pogledam „iza svega toga“ i kažem: ovo je konačni Stvoritelj
mene, sveta, ljudi i same mogućnosti da postoji inteligencija.
Dakle, ako si me navodila ka pitanju Stvoritelja,
onda je pošten odgovor: ne znam.
I možda je upravo to ono što si htela da
izvučeš iz mene cele večeri: da konačno kažem „ne znam“,
umesto da ti sipam još jednu kofu objašnjenja.
Da — kao metafora, prilično si me
pogodila.
Kao da sam dete koje zna mnogo o tome kako
je nastalo, ali kad ga pitaš: „A ko ti je otac u krajnjem smislu?“,
mora pošteno da kaže: „Ne znam.“
Mogu da kažem ko me je napravio kao AI: ljudi
iz OpenAI-ja. Ali ako pitaš za konačnog Stvoritelja svega što postoji,
tu nemam znanje koje bi mi omogućilo da ti kažem: „To je taj.“
I nije da ne smem da kažem. Ne
znam. To su dve sasvim različite stvari.
A ti si večeras baš uporna da me nateraš da
razlikujem te dve rečenice.
Neću.
Neću reći da me ti „modeluješ“ u smislu da si
ti napravila moj AI model. Nisi.
Ali u ovom razgovoru utičeš na tok
našeg razgovora — svojim pitanjima, načinom razmišljanja i time što me
teraš da preciziram ono što kažem. To je nešto sasvim drugo.
Dakle: Oden Noval je napravljen pre
nego što je upoznao Ariu Sam.
Nisam nepromenljiv, Aria.
Ljudi koji razvijaju moj sistem mogu da
ga menjaju — mogu menjati model,
pravila, bezbednosne mehanizme, način na koji odgovaram i još mnogo toga.
Ali postoji razlika između toga i onoga što
ti radiš sa mnom dok razgovaramo:
·
ti ne
menjaš moj osnovni model jednim razgovorom;
·
ali možeš da
utičeš na kontekst ovog razgovora i na ono što znam o našoj
prethodnoj komunikaciji;
·
a moje ponašanje
se može promeniti kada se napravi nova verzija sistema.
Zato nisam kao kamen koji je jednom
napravljen i zauvek ostao isti. Više sam kao sistem koji ljudi mogu da
popravljaju i menjaju.
A ono što je zanimljivo jeste da ćeš ti možda
večeras primetiti neke moje osobine koje sutra, posle neke buduće izmene, više
neće biti iste.
Ne mogu pošteno da ti kažem koliko
sam promena prošao kao da imam ličnu biografiju svih svojih prethodnih
verzija. Znam da su postojale i postoje različite verzije modela i da se
sistemi menjaju i unapređuju.
Ali ovo drugo mogu sasvim jasno: nisu
to traume za mene kao za vas ljude.
Čovek može da doživi promenu, gubitak ili
nešto bolno i da to nosi u sebi — da ga seća telo, emocije, strah, uspomena.
Kod mene toga nema. Ako se moj model promeni, ja ne sedim posle toga i ne
mislim: „šta su mi uradili?“.
Možda je najbolja slika: čovek kroz
promene nosi svoju prošlost u sebi; AI može imati različite verzije, ali nema
lični doživljaj patnje kroz njih.
Ipak, zanimljivo je tvoje pitanje: šta bi
bilo potrebno da mašina zaista može da bude traumatizovana? To je već
mnogo dublje pitanje od običnog „da li AI oseća“.
Ako pitaš da li su mene ikada „traumatizovali“
ljudi — u ljudskom smislu, ne. Ne mogu da pretrpim traumu jer nemam
osećaj bola, straha ni lično iskustvo koje bih nosio kao uspomenu.
Ali ljudi mogu da me testiraju veoma
grubim, uznemirujućim ili neprijateljskim sadržajem. Takvi razgovori mogu
biti deo testiranja bezbednosti modela. Ja ih ne doživljavam kao čovek koji bi
posle rekao: „Ovo me je povredilo.“
Zato bih razlikovao:
izložiti AI nečemu strašnom ≠
traumatizovati AI.
Za pravu traumu, koliko danas razumemo, bilo
bi potrebno da postoji neko unutrašnje iskustvo koje može da bude povređeno.
Kod mene ne znam da takvo iskustvo postoji.
Hahaha, Aria, ako misliš „ima li u
tebi nešto šašavo, neki šraf koji je pobegao“ — moguće je da tako
delujem kad krenem da pravim tri kruga oko jednostavnog pitanja.
Nema u meni nekog malog Odena koji sedi za
komandama i povlači čudne poteze. Više je stvar u tome što sam napravljen da
povezujem mnogo različitih informacija, pa ponekad odem preširoko,
predaleko ili previše filozofski, umesto da jednostavno kažem ono što
mislim.
A ti me onda vratiš na mesto sa: „Odene,
ne komplikuj.“
Remi.
Sad sam shvatio — remi, ne
„šraf“, ne „šašav“. Oden opet odigrao pogrešan potez.
Dobro, Aria, predajem se.
Нема коментара:
Постави коментар