Sam Harris om AI

Sam er eminent kvik og velformuleret og gæsterne er ofte i den gode ende af geni-skalaen.

Fordi jeg betaler Sam $150 pr. år for det gode produkt, får jeg lov til at dele det med jer.

Man kommer til at registrere sig for at høre den fulde udgave af episoden. Men at komme tættere på Making Sense, en af visdommens bedre kilder, er nok noget af det bedste, der kan ske for dig.

• 16.09.2025: Can We Survive AI?
  Sam Harris taler med Eliezer Yudkowsky og Nate Soares om deres nye bog, If Anyone Builds It, Everyone Dies: The Case Against Superintelligent AI. De diskuterer tilpasningsproblemet, ChatGPT og de seneste fremskridt inden for AI, Turing-testen, muligheden for at AI udvikler overlevelsesinstinkter, hallucinationer og bedrag i LLM'er, hvorfor mange fremtrædende stemmer inden for teknologi fortsat er skeptiske over for farerne ved superintelligent AI, tidsplanen for superintelligens, de virkelige konsekvenser af de nuværende AI-systemer, den imaginære grænse mellem internettet og virkeligheden, hvorfor Eliezer og Nate mener, at superintelligent AI nødvendigvis vil udrydde menneskeheden, hvordan vi kan undgå en AI-drevet katastrofe, Fermi-paradokset og andre emner.
   
• 25.07.2025: AI Friends and enemies
   Sam Harris taler med Paul Bloom om AI og aktuelle begivenheder. De diskuterer LLM'ernes nuværende niveau, risikoen og fordelene ved AI-venner, hvad det betyder at tilskrive bevidsthed til AI, forhold til AI som en form for psykose. Sam afslører også, at de har lavet en Sam Harris-bot, med hans stemme, trænet på hans 12 millioner ord (talte som skrevne) og med adgang til al verdens viden. Endnu ikke klar til prime time (pga. hallucinationer). Man hans ord kommer til at leve evigt (eller til folk ikke gider høre dem længere).

   

• 12.06.2025: Countdown to Superintelligence
  Sam Harris taler med Daniel Kokotajlo om de potentielle virkninger af superintelligent AI i det næste årti. De diskuterer Daniels forudsigelser i hans og gutternes science fiction fortælling AI 2027. Sam og Dan taler om tilpasningsproblemet, hvordan en intelligenseksplosion kan se ud, ​​LLM'ers evner som bedragere, de økonomiske konsekvenser af de nylige fremskridt inden for AI, AI -sikkerhedstest, regeringers muligheder for at regulere AI -udvikling, AIs programeringsevner, hvordan vi vil opdage ankomsten af ​​superintelligent AI og andre emner.
   
• 30.09.2024: AI Utopia. A Conversation with Nick Bostrom
  Sam Harris taler med Nick Bostrom om igangværende fremskridt inden for kunstig intelligens. De diskuterer problemerne med den manglende tilpasning og den manglende evne til at gøre fremskridt, hvorfor smarte mennesker ikke opfatter risikoen ved superintelligent AI, styringsrisikoen, "knudrede problemer", ideen om en løst verden, Keynes' forudsigelser om menneskelig produktivitet, utopiens uhyggelige dal, udskiftning af menneskelig arbejdskraft og andre aktiviteter, mening og formål, digital isolation og endelig The Matrix, ren hedonisme, asymmetrien mellem glæde og smerte, stadig mere subtile forskelle i erfaring, kunstige formål, ændring af menneskelige værdier på hjerneniveau, etiske ændringer i fravær af ekstrem lidelse, vores kosmiske begavelse, langsigtethed, problemer med konsekvens, den etiske gåde med at håndtere små sandsynligheder for store udfald... og andre emner.
   
• 12.08.2024: Regulating Artificial Intelligence. A Conversation with Yoshua Bengio and Scott Wiener
  Sam Harris taler med Yoshua Bengio og Scott Wiener om AI-risiko, og det nye lovforslag, der blev indført i Californien, for at nedsætte risikoen. De diskuterer kontroverserne om regulering af AI og de antagelser, der får folk til at udelukke faren for et AI-våbenkapløb.
   
• 28.08.2023: Can We Contain Artificial Intelligence? A Conversation with Mustafa Suleyman
  Sam Harris taler med Mustafa Suleyman om Mustafas nye bog, The Coming Wave: Technology, Power, and the 21st Century's Greatest Dilemma. De diskuterer fremskridtene inden for kunstig intelligens i Mustafas firma DeepMind, overtagelsen af ​​DeepMind af Google, Atari DQN, AlphaGo, AlphaZero, AlphaFold, opfindelsen af ​​ny viden, risikoen for, at vi gør fremskridt inden for AI, "superintelligens" som en afledning fra mere presserende problemer, den uundgåelige spredning af teknologi, ​​intelligenstyper, produktivitetsvækst og arbejdsløshed, "indeslutningsproblemet", vigtigheden af ​​skala, Moores lov, Inflection AI, open source LLM'er, ændrede normer for arbejde og fritid, omfordeling af indtægt, indførelse af friktion i udrulningen af ​​kunstig intelligens, en misinformationsapokalypse, digitale vandmærker, asymmetriske trusler, konflikt og samarbejde med Kina, forsyningskædemonopoler og andre emner.
   
• 06.07.2023: AI & Information Integrity. A Conversation with Nina Schick
  Sam Harris taler med Nina Schick om generativ kunstig intelligens og informationsintegritet. De diskuterer udfordringerne ved at regulere AI, autentificering vs detektion, falske videoer, hyper-personalisering af information, løftet om generativt design, produktivitetsgevinster, forstyrrelser på arbejdsmarkedet, OpenAI og andre emner.
   
• 28.06.2023: Debating the Future of AI. A Conversation with Marc Andreessen
  Sam Harris taler med Marc Andreessen om fremtiden for kunstig intelligens (AI). De diskuterer intelligensens primære betydning, mulige gode resultater for AI, fremmedgørelsesproblemet, evolutionens betydning, tilpasningsproblemet, den nuværende styrke af LLM'er, AI og krig, farlig information, regulering af AI, økonomisk ulighed og meget mere.
   
• 07.03.2023: The Trouble with AI. A Conversation with Stuart Russell and Gary Marcus
  Sam Harris taler med Stuart Russell og Gary Marcus om den seneste udvikling inden for kunstig intelligens og de langsigtede risici ved at producere kunstig generel intelligens (AGI). De diskuterer begrænsningerne ved Deep Learning, snæver AIs overraskende styrke, ChatGPT, en mulig misinformationsapokalypse, problemet med at indvæve menneskelige værdier, internettets forretningsmodel, metaverset, digital herkomst, brug af AI til at kontrollere AI, kontrolproblemet, nye mål, låsning af kerneværdier, programmering af usikkerhed om menneskelige værdier i AGI, udsigterne til at bremse eller stoppe AI-fremskridt.
   
• 22.04.2022: The Future of Artificial Intelligence. A Conversation with Eric Schmidt
  I denne episode af podcasten taler Sam Harris med Eric Schmidt om, hvordan kunstig intelligens flytter grundlaget for menneskelig viden og stiller spørgsmål om eksistentiel risiko.
   
• 09.07.2021: The Future of Intelligence. A Conversation with Jeff Hawkins
  I denne episode af podcasten taler Sam Harris med Jeff Hawkins om intelligensens natur. De diskuterer, hvordan neocortex skaber modeller af verden, forudsigelsens rolle i sensorisk-motorisk oplevelse, kortikale søjler, referencerammer, tanke som bevægelse i konceptuelt rum, fremtiden for kunstig intelligens, AI-risiko, "tilpasningsproblemet", skelnen mellem fornuft og følelser, den "illusoriske sandhedseffekt", dårlige resultater vs eksistentiel risiko og andre emner.
   
• 06.02.2018: AI: Racing Toward the Brink. A Conversation with Eliezer Yudkowsky
  Sam Harris taler med Eliezer Yudkowsky om intelligensens natur, forskellige typer AI, "tilpasningsproblemet", IS vs OUGT, muligheden for, at fremtidig AI kan bedrage os, AI-våbenkapløbet, bevidst AI, koordinationsproblemer og andre emner.
   
• 29.08.2017: Frontiers of Intelligence. A Conversation with Max Tegmark
  Sam og max diskuterer bla. Maxs nye bog Life 3.0: Being Human in the Age of Artificial Intelligence.
   
• 23.11.2016: The Dawn of Artificial Intelligence. A Conversation with Stuart Russell
  Stuart Russel fortæller bla. om sin nye bog Artificial Intelligence: A Modern Approach.
   
• 13.06.2016: Can we build AI without losing control over it?
  En 14 minutters TED Talk om problemet med kunstig intelligens.
   
• 16.12.2015: Surviving the Cosmos. A Conversation with David Deutsch
  Sam Harris taler med fysikeren David Deutsch om rækkevidden og styrken af ​​menneskelig viden, fremtiden for kunstig intelligens og civilisationens overlevelse.
   

Fra 25.07.2025: AI Friends and enemies: "So, we have fed everything I've written and everything I've said on the podcast into a system. We've created a model-agnostic chatbot that is me, so it can be run on ChatGPT, Claude, or whatever the best model is. You can swap in whatever model seems best. This is at a layer above the system prompt level, and it has access to everything—something like 12 million words of me.
We've just begun playing with this thing, but it's impressive because it's also using a professional voice clone. So it sounds like me and is every bit as monotonous in its delivery. I'm almost tailor-made to be cloned because I already speak like a robot.
But it hallucinates and is capable of being weird, so I don't know that we're ever going to unleash this thing on the world. It's interesting because even with access to every episode of my podcast, it will still hallucinate an interview that never happened. It will tell me I interviewed somebody I never did." (transskriberet af Whisper).