software-only singularity

Een discussie op social media tussen bekende tech-analisten en onderzoekers — waaronder Joe Weisenthal — laat zien hoe fel de debatten momenteel oplaaien over de toekomst van kunstmatige intelligentie en de grenzen van de groei. Centraal staat de vraag of AI zichzelf straks zo slim kan verbeteren dat fysieke knelpunten (zoals chips en stroom) minder belangrijk worden.

De reacties vanuit de community vallen uiteen in drie duidelijke kampen:

• Het kamp van roon (Tegenargument): Chips en elektriciteit worden juist een steeds pijnlijker knelpunt. Zodra geautomatiseerd AI-onderzoek (auto research) losgaat, wil de AI in rap tempo nieuwe modellen trainen, waardoor de vraag naar rekenkracht explosief harder stijgt dan de efficiëntiewinst die de AI zelf kan doorvoeren.
• Het 'Software-only singularity'-kamp (Voorstander): Volgens denkers zoals Nabeel S. Qureshi worden digitale en informatiediensten razendsnel geautomatiseerd, terwijl de fysieke wereld (energie, fabrieken, robots) achterblijft. Je krijgt daardoor een enorme digitale sprong voorwaarts in efficiëntie en chip-design, zonder dat je direct bergen nieuwe fysieke infrastructuur hoeft neer te zetten.
• De genuanceerden (zoals Kelsey Piper): Chips blijven een belangrijke factor, maar door die slimme zelfverbetering (RSI) kunnen we gigantische prestatiesprongen halen uit precies dezelfde hoeveelheid hardware. De remmende kracht verdwijnt niet volledig, maar wordt wel verzacht.

Daarnaast wijzen onderzoekers op een ingewikkelde balans van feedbackloops: van oprakende trainingsdata en afnemende meeropbrengsten tot juist oneindig slimmere software die zichzelf optimaliseert. Het onderstreept dat de weg naar AGI geen rechte lijn is, maar een bikkelhard gevecht tussen digitale intelligentie en fysieke wetten.