Cuprins
Recomandări cheie
- Bunul simț este capacitatea de a înțelege și de a reacționa la situațiile de zi cu zi fără a supraanaliza. Este dobândit prin experiențe și observații de viață, precum și prin norme societale și culturale.
- Calculatoarele se luptă cu bunul simț deoarece le lipsesc experiențele din lumea reală și capacitatea de a se adapta la noi contexte. De asemenea, se luptă cu reguli și presupuneri nerostite pe care oamenii le înțeleg intuitiv.
- Cercetătorii explorează diferite abordări, cum ar fi construirea unor baze de cunoștințe extinse, crowdsourcing bunul simț și predarea AI prin lumi simulate, pentru a instrui computerele în dobândirea bunului simț. S-au făcut progrese, dar mai sunt de făcut.
Bun simț. Cu toții credem că o avem. Dar ce este mai exact? Pot computerele sau sistemele inteligente artificiale să-l dobândească vreodată cu adevărat?
Ce este bunul simț și cum îl dobândesc oamenii?
Bunul simț este capacitatea de bază de a percepe, înțelege și judeca lucrurile pe care se așteaptă să le aibă majoritatea oamenilor. Este o colecție de fapte, informații și reguli generale pe care le acumulăm prin experiențe de viață și observații. Bunul simț ne permite să procesăm și să reacționăm eficient la situațiile de zi cu zi fără a le analiza prea profund.
Oamenii încep să dobândească bunul simț încă din copilărie. În calitate de bebeluși, începem să învățăm relații cauză-efect, cum ar fi plânsul duce la hrănire sau schimbare. Prin experiențe repetate, dobândim cunoștințe practice despre lume. De exemplu, atingerea unui aragaz fierbinte duce la arsuri. Așa că învățăm să nu atingem suprafețele fierbinți.
În calitate de copii, continuăm să ne extindem bunul simț prin încercări și erori și observând și interacționând cu membrii familiei. De exemplu, ne dăm seama că hainele trebuie spălate regulat, nu ar trebui să vorbiți cu gura plină, iar răsturnarea paharului cu lapte duce la mizerie. Părinții, frații, profesorii și alți adulți ne corectează atunci când încălcăm normele și așteptările societății. De-a lungul timpului, aceste lecții sunt înrădăcinate ca bun simț de bază.
Pe lângă experiențele personale, bunul simț este modelat de norme sociale și culturale mai largi. Ceea ce poate fi bunul simț într-o cultură (cum ar fi scoaterea pantofilor când intri într-o casă) poate să nu fie așa în altă cultură.
Bunul nostru simț se adaptează pe măsură ce ne maturizăm și suntem expuși la mai mulți oameni și medii. Deci, un copil care crește într-un oraș mic dobândește bunul simț de bază despre viața în acel cadru. Un adult care se mută într-un mare oraș metropolitan trebuie să își adapteze bunul simț pentru a se potrivi noului împrejurimi.
Bunul simț continuă să evolueze pe măsură ce avem noi experiențe de-a lungul vieții noastre.
De ce este bunul simț provocator pentru computere?
Există câteva motive pentru care bunul simț este greu de programat.
În primul rând, oamenii învață bunul simț treptat de-a lungul anilor de experiență a lumii. Încercăm lucrurile, vedem ce funcționează și ce nu și ne amintim lecțiile. Calculatoarele nu au astfel de experiențe din lumea reală din care să se inspire. Ei știu doar ce le spun oamenii în mod explicit.
De exemplu, am pus această întrebare ChatGPT (GPT 3.5):
Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts?
S-a dovedit cu acest răspuns:
O altă problemă este că bunul simț depinde de context. Dacă un computer are doar reguli specifice programate, nu le poate adapta la noi contexte așa cum o fac oamenii în mod intuitiv.
De exemplu, să presupunem că ați învățat un computer ce să facă dacă începe să plouă când este afară. Pare simplu, nu? Dar atunci ce se întâmplă dacă în loc de ploaie, este un stropitor care se aprinde? Sau ce se întâmplă dacă este în interiorul unui magazin alimentar și conductele încep să curgă apă din tavan? Am ști instantaneu cum să gestionăm aceste variații, dar un computer și-ar urma orbește regula „când plouă afară, intră înăuntru”, care acum nu are sens.
Există, de asemenea, reguli și presupuneri nerostite pe care oamenii le absorb fără să-și dea seama. De exemplu, cât de aproape poți să stai lângă cineva înainte de a te simți ciudat? Oamenii cunosc în mod intuitiv răspunsul, dar este posibil să nu poată explica cu ușurință regulile exacte. Aceste norme sociale implicite pot fi deosebit de dificile pentru calculatoare de a prelua doar din date.
Deci, deocamdată, bunul simț rămâne una dintre cele mai mari slăbiciuni ale inteligenței artificiale în comparație cu inteligența umană. Este firesc pentru oameni, dar nu atât pentru mașini.
Cum pot învăța computerele bunul simț
După optimismul timpuriu din anii 1970 și 1980, cercetătorii și-au dat seama cât de dificil ar fi predarea bunului simț pe computere. Cu toate acestea, noile abordări arată promițătoare în instruirea sistemelor AI pentru a avea bun simț de bază despre lumea fizică și socială de zi cu zi.
O abordare este de a construi baze de cunoștințe extinse manual, detaliind fapte și reguli despre cum funcționează lumea. Proiectul Cyc, început în 1984 de Doug Lenat, reprezintă un efort ambițios de acest gen.
Sute de logicieni au codificat milioane de axiome logice în Cyc de-a lungul deceniilor. Deși necesită timp, rezultatul este un sistem cu cunoștințe considerabile din lumea reală. Aparent, Cyc poate argumenta că o roșie este din punct de vedere tehnic un fruct, dar nu ar trebui să intre într-o salată de fructe, datorită cunoștințelor sale despre profilurile de arome culinare.
Crowdsourcing bun simț cu ConceptNet
Baze de cunoștințe mai moderne precum ConceptNet adoptă o abordare crowdsourcing pentru a genera afirmații de bun simț. Ideea este că, în loc să aibă experți sau AI să încerce să vină cu toate faptele și relațiile de bază din lume, ei le deschid astfel încât oricine să poată contribui cu fragmente de bun simț.
Această abordare de crowdsourcing permite acestor baze de cunoștințe să atingă inteligența colectivă a multor oameni diverși de pe internet. Acumulând mii și mii de aceste mici pepite de bun simț din mulțime, ConceptNet a construit niște depozite surprinzător de mari de cunoștințe de bază, de zi cu zi. Și pentru că noi contribuitori se adaugă mereu la aceasta, cunoștințele continuă să crească.
Predarea bunului simț prin experiență
O altă abordare promițătoare este de a construi lumi simulate detaliate în care agenții AI pot experimenta și învăța despre fizică și intuiții prin experiență.
Cercetătorii creează medii virtuale 3D pline cu obiecte de zi cu zi care imită lumea reală, cum ar fi casa digitală „AI2 THOR” construită de Institutul Allen. În aceste spații, roboții AI pot încerca tot felul de interacțiuni pentru a dezvolta o înțelegere intuitivă a conceptelor pe care oamenii le consideră de la sine înțelese.
De exemplu, unui bot AI poate primi un corp virtual și încearcă să ridice blocuri, să le stivuească, să le doboare etc. Văzând blocurile căzând și ciocnind realist, botul învață noțiuni de bază despre soliditate, gravitație și dinamica fizică. Nu sunt necesare reguli – doar experiență.
Botul poate încerca, de asemenea, acțiuni precum aruncarea unui obiect de sticlă și vedea cum se sparge atunci când lovește solul. Sau poate experimenta proprietățile apei, turnând lichide și observând modul în care acestea curg și se iau. Aceste lecții practice bazează cunoștințele AI în experiența senzorială și nu doar în modelele de date.
Tehnicile bazate pe date, cum ar fi preinstruirea unor modele de limbaj mari puternice, s-au dovedit, de asemenea, surprinzător de eficiente în identificarea tiparelor de bun simț. Modelele AI precum GPT-3.5 și GPT-4 pot genera text impresionant de tip uman după „citirea” unor cantități mari de date de pe Internet.
Deși uneori fac sugestii neînțelepte (cunoscute și sub numele de halucinație AI), abordarea învățării statistice le permite să imite anumite tipuri de bun simț. Cu toate acestea, rămâne un dezacord cu privire la faptul dacă acest lucru constituie bunul simț sau o exploatare inteligentă a părtinirilor în date.
Cum să testați computerele pentru bunul simț
Credit imagine: freepik/freepik
Pe măsură ce sistemele de inteligență artificială preiau sarcini mai complexe din lumea reală, evaluarea dacă au „bun simț” devine crucială.
Bunul simț fizic
Un domeniu de testat este bunul simț fizic – intuiția despre obiecte, forțe și proprietăți de bază ale lumii.
De exemplu, arată unui sistem de viziune computerizată o fotografie cu o carte plutind în aer și cere-i să descrie scena. Notează ceva neobișnuit la cartea plutitoare? Sau alimentați sistemul AI cu scenarii neobișnuite, cum ar fi „omul a tăiat o piatră cu o pâine” și verificați dacă le semnalează ca fiind improbabile.
Mediul AI2 THOR al Institutului Allen simulează turnuri de blocuri, căni vărsate și alte scene pentru a testa aceste intuiții fizice.
Bunul simț social
Oamenii au, de asemenea, bunul simț social – o înțelegere implicită a motivațiilor, relațiilor și normelor oamenilor. Pentru a evalua acest lucru în IA, puneți situații cu pronume sau motivații ambigue și vedeți dacă sistemul le interpretează în mod rezonabil.
De exemplu, am întrebat ChatGPT dacă „se referea” la valiză sau la trofeu în promptul de mai jos:
The trophy could not fit into the suitcase because it was too small.
A picat testul; Între timp, un om ar ști, evident, că mă refer la valiză.
Acest tip de test se numește Winograd Schema Challenge, care vizează în mod special bunul simț social.
Siguranță și Etică
Testarea dacă sistemele AI au învățat tipare nesigure sau neetice este esențială. Analizați dacă IA prezintă părtiniri dăunătoare bazate pe gen, rasă sau alte atribute atunci când faceți judecăți.
Verificați dacă face distincții etice rezonabile. Uciderea unui urs pentru a salva un copil poate fi considerată justificată în timp ce detonarea unei bombe nucleare în același scop nu ar fi. Semnalați orice recomandări pentru acte în mod clar lipsite de etică.
Performanță în lumea reală
Evaluați bunul simț observând modul în care sistemele AI funcționează în setările din lumea reală. De exemplu, mașinile care se conduc singure identifică și răspund corect la obiecte și pietoni? Poate un robot să se deplaseze prin diverse medii de acasă fără a sparge obiecte valoroase sau a răni animalele de companie?
Testele din lumea reală dezvăluie lacune în bunul simț care ar putea să nu apară în condiții limitate de laborator.
S-au făcut progrese, dar se lucrează la IA de bun simț
Unii experți susțin că AI nu poate ajunge niciodată la bunul simț uman fără a dezvolta structuri cerebrale și corpuri ca ale noastre. Pe de altă parte, mințile digitale nu sunt limitate de părtiniri umane și scurtături mentale, așa că teoretic, ele ne-ar putea depăși! Deși probabil nu trebuie să ne facem griji pentru AI super-inteligentă încă.
Pe termen scurt, cel mai bun pariu este AI care combină bunul simț învățat cu o programare bună de modă veche. În acest fel, greșelile stupide, cum ar fi confundarea unei țestoase cu o pușcă, pot fi evitate.
Nu suntem încă acolo, dar bunul simț nu mai este materia întunecată a inteligenței artificiale – progrese au loc! Cu toate acestea, va fi nevoie de o doză sănătoasă de bun simț uman în aplicarea acestor tehnologii pentru ceva timp.