Is het mogelijk dat computers gezond verstand leren?

Belangrijkste leerpunten

• Gezond verstand is het vermogen om alledaagse situaties te begrijpen en erop te reageren zonder te veel te analyseren. Het wordt verworven door levenservaringen en observaties, maar ook door maatschappelijke en culturele normen.
• Computers worstelen met gezond verstand omdat ze geen ervaringen uit de echte wereld hebben en het vermogen om zich aan te passen aan nieuwe contexten. Ze worstelen ook met onuitgesproken regels en aannames die mensen intuïtief begrijpen.
• Onderzoekers onderzoeken verschillende benaderingen, zoals het opbouwen van uitgebreide kennisbanken, crowdsourcing van gezond verstand en het onderwijzen van AI via gesimuleerde werelden, om computers te trainen in het verwerven ervan gezond verstand. Er is vooruitgang geboekt, maar er is nog werk aan de winkel.

Gezond verstand. We denken allemaal dat we het hebben. Maar wat is het precies? Kunnen computers of kunstmatig intelligente systemen dit ooit werkelijk verwerven?

Wat is gezond verstand en hoe verwerven mensen het?

Gezond verstand is het basisvermogen om dingen waar te nemen, te begrijpen en te beoordelen die van de meeste mensen worden verwacht. Het is de verzameling feiten, informatie en vuistregels die we verzamelen door levenservaringen en observaties. Met gezond verstand kunnen we alledaagse situaties efficiënt verwerken en erop reageren zonder ze al te diep te analyseren.

Mensen beginnen al vroeg in hun kindertijd met het verwerven van gezond verstand. Als baby beginnen we oorzaak-en-gevolg-relaties te leren, zoals huilen ertoe leidt dat we gevoed of veranderd worden. Door herhaalde ervaringen verwerven we praktische kennis over de wereld. Als u bijvoorbeeld een hete kachel aanraakt, kunt u zich verbranden. We leren dus om hete oppervlakken niet aan te raken.

Als kinderen blijven we ons gezond verstand uitbreiden door vallen en opstaan ​​en door het observeren en communiceren met familieleden. Zo beseffen wij dat kleding regelmatig gewassen moet worden, dat je niet met volle mond moet praten en dat het omgooien van je melkglas tot rommel leidt. Ouders, broers en zussen, leraren en andere volwassenen corrigeren ons als we maatschappelijke normen en verwachtingen schenden. In de loop van de tijd zijn deze lessen ingebakken als fundamenteel gezond verstand.

Naast persoonlijke ervaringen wordt gezond verstand gevormd door bredere maatschappelijke en culturele normen. Wat in de ene cultuur misschien gezond verstand is (zoals het uittrekken van schoenen bij het betreden van een huis), is in een andere cultuur misschien niet zo.

Ons gezond verstand past zich aan naarmate we ouder worden en worden blootgesteld aan meer mensen en omgevingen. Een kind dat opgroeit in een kleine stad, krijgt dus een basiskennis over het leven in die omgeving. Een volwassene die naar een grote metropool verhuist, moet zijn gezond verstand aanpassen aan de nieuwe omgeving.

Gezond verstand blijft zich ontwikkelen naarmate we ons hele leven nieuwe ervaringen opdoen.

Waarom is gezond verstand een uitdaging voor computers?

Er zijn een paar redenen waarom gezond verstand moeilijk te programmeren is.

Om te beginnen leren mensen geleidelijk aan gezond verstand door jarenlang de wereld te ervaren. We proberen dingen uit, kijken wat werkt en wat niet, en onthouden de lessen. Computers beschikken niet over dit soort praktijkervaringen waaruit ze kunnen putten. Ze weten alleen wat mensen hen expliciet vertellen.

Ik stelde ChatGPT (GPT 3.5) bijvoorbeeld deze vraag:

Janet runs a laundry business. She washes clothes for customers and hangs them outside on clotheslines to dry in the sun. One day, Janet washed five shirts and hung them on the clotheslines in the morning. It took the shirts five hours to dry. How long will it take to dry 30 shirts? 

Het kwam uit op deze reactie:

Een ander probleem is dat gezond verstand afhankelijk is van de context. Als in een computer alleen specifieke regels zijn geprogrammeerd, kan hij deze niet aanpassen aan nieuwe contexten zoals mensen dat intuïtief kunnen.

Stel bijvoorbeeld dat u een computer hebt geleerd wat hij moet doen als het buiten begint te regenen. Lijkt eenvoudig, toch? Maar wat als het in plaats van regen een sproeier is die aangaat? Of wat als het in een supermarkt is en de leidingen water uit het plafond lekken? We zouden meteen weten hoe we met die variaties moeten omgaan, maar een computer zou blindelings de regel 'als het buiten regent, ga naar binnen' volgen, wat nu nergens op slaat.

Er zijn ook onuitgesproken regels en veronderstellingen die mensen in zich opnemen zonder het zelfs maar te beseffen. Hoe dicht kun je bijvoorbeeld naast iemand staan ​​voordat het ongemakkelijk voelt? Mensen weten intuïtief het antwoord, maar kunnen de exacte regels misschien niet gemakkelijk uitleggen. Deze impliciete sociale normen kunnen voor computers bijzonder lastig zijn om alleen uit gegevens op te pikken.

Voorlopig blijft gezond verstand dus een van de grootste zwakke punten van AI vergeleken met menselijke intelligentie. Bij mensen is dat vanzelfsprekend, bij machines niet zozeer.

Hoe computers gezond verstand kunnen leren

Na het vroege optimisme in de jaren zeventig en tachtig beseften onderzoekers hoe moeilijk het zou zijn om computers gezond verstand aan te leren. Nieuwe benaderingen zijn echter veelbelovend bij het trainen van AI-systemen om gezond verstand te hebben over de dagelijkse fysieke en sociale wereld.

Eén benadering is het met de hand opbouwen van uitgebreide kennisbanken, waarin feiten en regels worden beschreven over hoe de wereld werkt. Het Cyc-project, in 1984 gestart door Doug Lenat, vertegenwoordigt een dergelijke ambitieuze inspanning.

Honderden logici hebben de afgelopen decennia miljoenen logische axioma's in Cyc gecodeerd. Hoewel het tijdrovend is, is het resultaat een systeem met aanzienlijke kennis uit de praktijk. Cyc kan blijkbaar redeneren dat een tomaat technisch gezien een vrucht is, maar toch niet in een fruitsalade mag, dankzij zijn kennis van culinaire smaakprofielen.

Gezond verstand crowdsourcing met ConceptNet

Modernere kennisbanken zoals ConceptNet hanteer een crowdsourcing-aanpak om op gezond verstand gebaseerde beweringen te genereren. Het idee is dat in plaats van experts of AI te laten proberen alle basisfeiten en relaties in de wereld te bedenken, ze deze openstellen zodat iedereen stukjes gezond verstand kan bijdragen.

Dankzij deze crowdsourcing-aanpak kunnen deze kennisbanken gebruikmaken van de collectieve intelligentie van veel verschillende mensen op internet. Door duizenden en duizenden van deze kleine, op gezond verstand gebaseerde klompjes uit de massa te verzamelen, heeft ConceptNet een aantal verrassend grote opslagplaatsen van fundamentele, alledaagse kennis opgebouwd. En omdat er steeds nieuwe bijdragers aan bijdragen, blijft de kennis groeien.

Gezond verstand leren door ervaring

Een andere veelbelovende aanpak is het bouwen van gedetailleerde gesimuleerde werelden waar AI-agenten kunnen experimenteren en door ervaring kunnen leren over natuurkunde en intuïties.

Onderzoekers creëren virtuele 3D-omgevingen gevuld met alledaagse voorwerpen die de echte wereld nabootsen, zoals het digitale huis "AI2 THOR", gebouwd door het Allen Institute. Binnen deze ruimtes kunnen AI-robots allerlei soorten interacties uitproberen om een ​​intuïtief begrip te ontwikkelen van concepten die mensen als vanzelfsprekend beschouwen.

Een AI-bot kan bijvoorbeeld een virtueel lichaam krijgen en proberen blokken op te pakken, te stapelen, omver te werpen, enz. Door de blokken realistisch te zien vallen en botsen, leert de bot basisbegrippen over stevigheid, zwaartekracht en fysieke dynamiek. Er zijn geen regels nodig, alleen ervaring.

De bot kan ook acties ondernemen, zoals het laten vallen van een glazen voorwerp en het zien versplinteren wanneer het de grond raakt. Of het kan experimenteren met de eigenschappen van water door vloeistoffen te gieten en te observeren hoe ze stromen en zich verzamelen. Deze praktische lessen baseren de kennis van AI op zintuiglijke ervaringen en niet alleen op datapatronen.

Datagedreven technieken zoals voortraining krachtige grote taalmodellen zijn ook verrassend effectief gebleken in het oppikken van gezond verstand-patronen. AI-modellen zoals GPT-3.5 en GPT-4 kan indrukwekkend mensachtige tekst genereren na het "lezen" van grote hoeveelheden internetgegevens.

Hoewel ze soms onverstandige suggesties doen (ook wel bekend als AI-hallucinatie), stelt de statistische leerbenadering hen in staat bepaalde vormen van gezond verstand na te bootsen. Er blijft echter onenigheid over de vraag of dit gezond verstand is of een slimme exploitatie van vooroordelen in de gegevens.

Computers testen op gezond verstand

Naarmate kunstmatige-intelligentiesystemen complexere taken in de echte wereld op zich nemen, wordt het van cruciaal belang om te evalueren of ze over ‘gezond verstand’ beschikken.

Fysiek gezond verstand

Eén gebied dat moet worden getest is het fysieke gezond verstand: intuïtie over objecten, krachten en fundamentele eigenschappen van de wereld.

Laat bijvoorbeeld A zien computervisiesysteem een foto met een boek dat in de lucht zweeft en vraag hem om de scène te beschrijven. Merkt hij iets ongewoons op aan het zwevende boek? Of voer het AI-systeem ongebruikelijke scenario's voor, zoals "de man sneed een steen met een brood" en controleer of het deze als onwaarschijnlijk markeert.

De AI2 THOR-omgeving van het Allen Institute simuleert bloktorens, gemorste mokken en andere scènes om deze fysieke intuïties te testen.

Sociaal gezond verstand

Mensen beschikken ook over sociaal gezond verstand: een impliciet begrip van de motivaties, relaties en normen van mensen. Om dit in AI te evalueren, stelt u situaties voor met dubbelzinnige voornaamwoorden of motivaties en kijkt u of het systeem deze redelijk interpreteert.

Ik vroeg ChatGPT bijvoorbeeld of "het" verwees naar de koffer of de trofee in de onderstaande prompt:

The trophy could not fit into the suitcase because it was too small. 

Het slaagde niet voor de test; Ondertussen zou een mens duidelijk weten dat ik het over de koffer had.

Dit soort tests wordt de Winograd Schema Challenge genoemd en is specifiek gericht op sociaal gezond verstand.

Veiligheid en ethiek

Het is van cruciaal belang om te testen of AI-systemen onveilige of onethische patronen hebben geleerd. Analyseer of de AI bij het beoordelen schadelijke vooroordelen vertoont op basis van geslacht, ras of andere kenmerken.

Controleer of er redelijke ethische onderscheidingen worden gemaakt. Het doden van een beer om een ​​kind te redden kan als gerechtvaardigd worden beschouwd, maar het tot ontploffing brengen van een atoombom voor hetzelfde doel niet. Markeer eventuele aanbevelingen voor duidelijk onethische handelingen.

Prestaties in de echte wereld

Evalueer uw gezond verstand door te observeren hoe AI-systemen functioneren in de praktijk. Doe dat bijvoorbeeld zelfrijdende auto’s identificeren objecten en voetgangers correct en reageren er op? Kan een robot door gevarieerde thuisomgevingen bewegen zonder waardevolle spullen kapot te maken of huisdieren schade toe te brengen?

Tests uit de praktijk brengen hiaten in het gezond verstand aan het licht die in beperkte laboratoriumomstandigheden misschien niet aan het licht komen.

Er is vooruitgang geboekt, maar er wordt nog steeds gewerkt aan Gezond Verstand-AI

Sommige experts beweren dat AI het menselijke gezond verstand misschien nooit zal bereiken zonder hersenstructuren en lichamen zoals de onze te ontwikkelen. Aan de andere kant worden digitale geesten niet beperkt door menselijke vooroordelen en mentale sluiproutes, dus theoretisch gezien zouden ze ons kunnen overtreffen! Hoewel we ons waarschijnlijk nog geen zorgen hoeven te maken over superintelligente AI.

Op de korte termijn is de beste keuze AI die aangeleerd gezond verstand combineert met ouderwets programmeren. Op die manier kunnen domme fouten, zoals het aanzien van een schildpad voor een geweer, hopelijk worden vermeden.

We zijn er nog niet, maar gezond verstand is niet langer de donkere materie van AI; er is vooruitgang gaande! Toch zal er nog enige tijd een gezonde dosis menselijk gezond verstand nodig zijn bij de toepassing van deze technologieën.