de mythe van de zelfverbeterende machine

Een scherpe observatie van Martin Casado zet de discussie over de heilige graal van kunstmatige intelligentie op scherp. Hij schreef: “It would be pretty ironic if true RSI ends up being a captivating but ultimately impractical idea from Bostrom. And the pursuit of it ends up putting the current frontier labs behind.”

RSI staat voor Recursive Self-Improvement: het bekende idee van filosoof Nick Bostrom dat een AI zichzelf continu kan verbeteren, wat leidt tot een niet te stuiten 'intelligence explosion'. Maar volgens Casado dreigt hier een bittere ironie: wat als dit concept in de praktijk onhaalbaar blijkt? Labs die er nu blind op inzetten, lopen het risico op achterstand te raken op pragmatische concurrenten die inzetten op pure schaling, betere data en infrastructuur.

Onder de post barst direct een interessante discussie los onder tech-insiders:

• De alchemisten van onze tijd: Kritische stemmen trekken de parallel met alchemisten uit het verleden — serieuze koppen die dachten dat lood in goud veranderen onvermijdelijk was op basis van een denkfout.
• Fundamentele grenzen: Zo wordt er gewezen op het Halting Theorem; het creëren van nieuwe, fundamentele kennis is onvoorspelbaar en laat zich nooit volledig automatiseren, of dat nu door mensen of machines gebeurt.
• De praktijk vs. theorie: Tegenover de sceptici staan optimisten die menen dat het proces allang is begonnen doordat agents steeds minder menselijke sturing nodig hebben in de loop.
• Het kostenplaatje: Meerdere commentatoren wijzen op de opportunity costs: het blind staren op RSI kost bergen tijd, geld en talent dat ook aan direct bruikbare infrastructuur besteed had kunnen worden.

Kortom: de mythe van de zelfverbeterende machine botst snoeihard op de technische en economische realiteit van alledag.

Geloof jij dat Recursive Self-Improvement binnenkort werkelijkheid wordt, of is het inderdaad een duur hersenschim dat labs afleidt van echte vooruitgang?