Den teknologiska singulariteten är en spekulativ hypotes om en framtida tidpunkt, som skulle kunna uppstå om och när maskiners förmåga att förbättra sig själva genom artificiell intelligens får ett genombrott, vilket i sin tur skulle ge upphov till teknologiska framsteg utan motstycke.Singularity Institute for Artificial Intelligence (2002), Why Artificial Intelligence? Archive copy at the Internet ArchiveKurzweil, Raymond (2001), Lifeboat Foundation, The Law of Accelerating Returns, retrieved on 7 August 2007
Den teknologiska singulariteten är ett vanligt tema eller element i science fiction.
Bakgrund thumb|right|280px|Den mänskliga hjärnan står som inspirationskälla för forskare inom artificiell intelligens. I en av de första användningarna av termen "singulariteten" i kontexten av teknologisk utveckling, skrev Stanislaw Ulam 1958 om en konversation med John von Neumann om accelererande förändring:Ulam, Stanislaw (May 1958), "Tribute to John von Neumann", Bulletin of the American Mathematical Society 64 (nr 3, part 2): 1-49
Matematikern I. J. Good skrev först om en "intelligensexplosion", med hypotesen att om maskiners intelligens skulle överstiga människans bara lite grand, då skulle de kunna förbättra sin egen design på sätt som inte är förutsägbara hos skaparna, och därmed rekursivt förbättra sig själva med mycket större intelligens.
Han spekulerade om konsekvenserna av maskiner som är smartare än människorGood, I.J. (1965), Franz L. Alt and Morris Rubinoff, ed., "Speculations Concerning the First Ultraintelligent Machine", Advances in Computers (Academic Press) 6: 31-88, , retrieved on 7 August 2007:
Matematikern och författaren Vernor Vinge populariserade Goods uppfattning om en intelligensexplosion under 1980-talet och kallade skapelsen av den första ultraintelligenta maskinen för singulariteten. I tryck skrev han första gången om ämnet i januariutgåvan av tidningen Omni 1983, vilken innehåller det ofta citerade utlåtandet: "Inom trettio år kommer vi ha de teknologiska medel som krävs för att skapa supermänsklig intelligens. Kort därefter kommer den mänskliga eran att ta slut."Vinge, Vernor (30-31 March 1993), "The Coming Technological Singularity", Vision-21: Interdisciplinary Science & Engineering in the Era of CyberSpace, proceedings of a Symposium held at NASA Lewis Research Center (NASA Conference Publication CP-10129) Vinge har därefter modifierat sin tidsuppskattning om detta, och lägger till: "Jag skulle bli förvånad om detta händer före 2005 eller efter 2030." Vernor Vinge kallade senare denna händelse för "singulariteten" som en analogi mellan det urartade tillstånd som modern fysik förutspår i närheten av en gravitationell singularitet ("svart hål") och den drastiska förändringen i samhället som han anser skulle följa en intelligensexplosion. Som följd av introducerandet av singulariteten genom Vinges romaner har singulariteten blivit ett vanligt tema eller element i science fiction.
Hypotesen thumb|right|225px|Kurzweil skriver att på grund av paradigmskiften löper en trend av exponentiell tillväxt från integrerade kretsar till tidiga transistorer, elektronrör, reläer och elektromekaniska datorer.
Vissa förespråkare för singulariteten argumenterar för dess oundviklighet genom extrapolering av tidigare trender, speciell de som gäller de allt kortare mellanrummen mellan förbättringar till teknologi.
Gerald S. Hawkins skriver att förekomsten av "mindsteps", dramatiska och oåterkalleliga förändringar i paradigm eller världsåskådningar, kommer att förekomma allt oftare enligt hans ekvation. Han pekar på uppfinnandet av skrivkonsten, matematik och datorer som exempel på sådana förändringar.Hawkins, Gerald S. (August 1983), Mindsteps to the Cosmos, HarperCollins
Ray Kurzweil drar slutsatsen i sin historieanalys att teknologiska framsteg följer ett mönster av exponentiell tillväxt, följt av vad han kallar The Law of Accelerating Returns. Han generaliserar Moores lag, vilken beskriver geometrisk tillväxt i komplexiteten i integrerade kretsar, till att inkludera teknologier från långt innan den integrerade kretsen uppfanns. Kurzweil skriver att när teknologi kommer till en barriär kommer ny teknologi att ta sig över den. Han förutspår att paradigmskiften kommer att bli allt mer vanliga, ledande till "teknologisk förändring så snabb och genomgående att den representerar en brytning i den mänskliga historien".
Kurzweil tror att singulariteten kommer att inträffa före slutet av 2000-talet, och menar att det händer innan år 2045.Kurzweil, Raymond (2005), The Singularity Is Near, New York: Viking, Hans prediktioner skiljer sig från Vinges i det att han föreställer sig en gradvis övergång till singulariteten, snarare än Vinges snabba självförbättrande supermänskliga intelligens.
Acceleration Studies Foundation är en ideell stiftelse grundad av John Smart, och engagerar sig i folkbildning och forskning rörande accelererande förändring.Acceleration Studies Foundation (2007), ASF: About the Foundation , retrieved on 13 November 2007 Stiftelsen håller i Accelerating Change-konferenserna på Stanford University, och håller i den utbildande hemsidan Acceleration Watch.
Vinge förutser att supermänskliga intelligenser, oavsett hur de skapades, kommer att kunna förstärka sina egna psyken snabbare än människorna som skapade dem. "När intelligens som är bättre än människans driver utvecklingen," skriver Vinge, "så kommer den utvecklingen ske snabbare." Denna återkoppling av självförbättrande intelligens, förutser han, kommer att orsaka en stor mängd teknologiska framsteg inom en kort tidsperiod.
Bortsett från de flertaliga spekulativa metoderna för förstärkning av den mänskliga intelligensen är den icke-mänskliga artificiella intelligensen (speciellt seed AI) det mest populära alternativet för organisationer som verkar för ett framåtskridande mot singulariteten, ett val som Singularity Institute for Artificial Intelligence skriver om i artikeln "Why Artificial Intelligence?".
Det är svårt att direkt jämföra kiselbaserad hårdvara med neuroner, men som Anthony Berglas noterar så närmar sig taligenkänning mänsklig kapacitet, och att denna förmåga kräver 0,01 % av hjärnvolymen.Berglas, Anthony (2008), Artificial Intelligence will Kill our Grandchildren, retrieved on 13 June 2008 Denna jämförelse antyder att endast ett fåtal storleksordningar skiljer modern datorhårdvaras kapacitet från mänskliga hjärnans. Det ska även noteras att det mänskliga genomet innehåller enbart omkring 700 MB data (om man räknar baspar direkt), av vilka enbart 1,5 % kodar för gener, där de flesta inte har något att göra med intelligens (även om det ska noteras att de andra 98 procenten av genomet troligen kontrollerar uttrycken av dessa 1,5 %, vilket ökat komplexiteten av det mänskliga genomet på en logaritmisk skala). Poängen enligt Berglas är att med tanke på den lilla del av vår intelligens som är medfödd, så borde en liknande intelligens gå att skapa artificiellt, även om det är svårt att jämföra "köttmjukvara" med "kiselmjukvara".
År 2012 publicerade Stuart Armstrong och Kaj Sotala en studie om artificiell generell intelligens (AGI). Där förutspås att singulariteten inträffar omkring 2040 (medianvärdet av gissningarna).
Potentiella faror Supermänskliga intelligenser kan ha mål som är oförenliga med mänsklig överlevnad och välgång. AI-forskaren Hugo de Garis menar att artificiella intelligenser helt enkelt kan komma att eliminera den mänskliga arten, vilket människan skulle stå totalt maktlösa inför.
Anthony Berglas menar att till skillnad från människan är en datorbaserad intelligens inte knuten till en specifik kropp, vilket skulle ge den ett radikalt annorlunda perspektiv av världen. I synnerhet att då en mjukvaruintelligens skulle vara i grund och botten odödlig skulle den därmed inte ha något behov av att producera självständiga barn som lever efter att den dött. Det skulle innebära att den inte har något evolutionärt behov av kärlek, men skulle ha ett evolutionärt behov av makt då den första AI som vill härska över jorden kommer att göra det.
Andra faror som ofta nämns i sammanhanget är de som ofta associeras med molekylär nanoteknologi och genetisk modifiering. Dessa hot är stora frågor för både singularitetsförespråkare och kritiker, och var ämnet för Bill Joys artikel "Why the future doesn't need us" i tidningen Wired.Joy, Bill (April 2000), "Why the future doesn’t need us", Wired Magazine (8.04), retrieved on 7 August 2007 Även Nick Bostrom diskuterar utrotningsscenarion och nämner superintelligens som en möjlig orsakBostrom, Nick (2002), "Existential Risks", Journal of Evolution and Technology 9, retrieved on 7 August 2007:
Hans Moravec anser att trots att superintelligenser i formen av maskiner kan göra människor förlegade som intelligensledande, kommer det fortfarande finnas rum i ekologin för människor.Moravec, Hans (January 1992), On the Cosmology and Ecology of Cyberspace, Pigs in Cyberspace, retrieved on 21 November 2007
Eliezer Yudkowsky föreslog att forskning skulle genomföras för att producera "vänlig AI" för att komma till rätta med farorna. Han noterade att om den första riktiga artificiella intelligensen var vänlig skulle den ha ett försprång i självförbättringen och skulle därmed kunna hindra andra icke-vänliga artificiella intelligenser från att utvecklas. Singularity Institute for Artificial Intelligence är dedikerade till just detta kall. Även Bill Hibbard skrev om dylika frågor om säkerhet och moral med AI i sin bok Super-Intelligent Machines.
Isaac Asimovs "robotikens tre lagar" är en av de tidigaste exemplen på föreslagna säkerhetsåtaganden gällande artificiella intelligenser. Lagarna är avsedda att förhindra robotar från att skada människor. I Asimovs historier uppstår vad man uppfattar som problem med lagarna som ett resultat av missförstånd hos en mänsklig operatör; robotarna själva stänger av sig själva om det uppstår en riktig konflikt mellan lagarna. I filmen I, Robot, som är löst baserad på Asimovs historier, utforskas temat om en artificiell intelligens tar kontroll över mänskligheten med syftet att skydda mänskligheten från sig själva. 2004 lanserade Singularity Institute en internetkampanj kallad 3 Laws Unsafe, där man ville skapa medvetenhet om säkerhetsfrågor rörande AI och i synnerhet otillräckligheten i Asimovs lagar.Singularity Institute for Artificial Intelligence (2004), 3 Laws Unsafe , retrieved on 7 August 2007
Många förespråkare av teknologisk singularitet anser att nanoteknologi är ett av de största hoten mot människan. På grund av denna anledning anses ofta "seed AI" (en AI kapabel till självförbättring) ska föregå nanoteknologi. Andra, som Foresight Institute, förespråkar insatser för att skapa molekylär nanoteknologi, då man menar att det är en teknologi som kan bli säker för användning innan singulariteten och även kan påskynda ankomsten av en teknologisk singularitet till gagn för mänskligheten.
Kritik thumb|right|225px|Fysikern Stephen Hawking menade att intelligenta datorer kan skapa ännu mer komplexa datorer. Kritiken mot teknologisk singularitet riktar sig mot flera av dess underliggande premisser. Singulariteten har också blivit kritiserad från ett anarkoprimitivistiskt och ekologistiskt perspektiv. Vissa kritiker hävdar att ingen dator eller maskin någonsin kommer att uppnå mänsklig intelligens, medan andra menar det motsatta. Filosofen Hubert Dreyfus menar att forskningen kring artificiell intelligens är felaktig. Han menar bland annat att en fungerande AI kräver en kropp och en social miljö att leva i.
Fysikern Stephen Hawking menade att: