Serieus, wat is 'superintelligentie'?

Meta heeft zojuist een belangrijke stap in zijn AI-inspanningen aangekondigd : de investering in Scale AI en de bouw van een superintelligentie-AI-onderzoekslab. Hoewel Meta probeert gelijke tred te houden met grote namen in de AI-race, zoals OpenAI, Anthropic en Google, omvat de nieuwe strategie van het bedrijf het investeren in talent en de werving van Scale AI.

Vandaag duiken we in de show in de deal tussen Meta en Scale AI, en vertellen we wat Meta hoopt te bereiken met de investering. Ook stellen we de vraag waar we ons allemaal over afvragen: wat is bovenmenselijke intelligentie eigenlijk?

Je kunt Michael Calore op Bluesky volgen via @snackfight , Lauren Goode op Bluesky via @laurengoode en Katie Drummond op Bluesky via @katie-drummond . Stuur een e-mail naar [email protected] .

U kunt de podcast van deze week altijd beluisteren via de audiospeler op deze pagina, maar als u zich gratis wilt abonneren om elke aflevering te ontvangen, kunt u dat als volgt doen:

Als je een iPhone of iPad gebruikt, open dan de app Podcasts of tik op deze link . Je kunt ook een app zoals Overcast of Pocket Casts downloaden en zoeken naar 'Uncanny Valley'. We zijn ook op Spotify .

Let op: Dit is een geautomatiseerd transcript, dat fouten kan bevatten.

Michael Calore: Hoe gaat het met iedereen deze week?

Katie Drummond: Nou, ik ben terug en ik ben zo blij om hier te zijn. Ik heb vorige week in Frankrijk zoveel boter gegeten, de eerste paar avonden had ik het voor mezelf. En wat zou een normaal persoon in Parijs doen? Misschien gaan ze uit eten aan de bar, alleen eten, of afspreken met een vriend. Ik at boter en brood alleen in mijn hotelkamer. En laat me je vertellen, als je dit leest en je bent een moeder met een jong kind of jonge kinderen, als je getrouwd bent, als je moeite hebt met het hebben van een partner en een kind, en misschien wat huisdieren en een drukke baan, dan is er geen betere ervaring dan alleen Franse boter en brood eten in een hotelkamer.

Michael Calore: Wauw.

Lauren Goode: Uncanny Valley , mogelijk gemaakt door de zuivellobby.

Katie Drummond: Van de Franse zuivellobby. Ik voel me fantastisch. Hoe gaat het met jullie?

Lauren Goode: Het gaat goed. Ik heb een pony.

Katie Drummond: Heb jij dat gedaan?

Lauren Goode: Ja. De meeste luisteraars kunnen het niet zien, tenzij je onze nieuwe promovideo's online bekijkt, maar ik heb een pony. Er is vaak een verband tussen wat er in de wereld gebeurt en vrouwen die hun pony knippen. Dat is alles wat ik erover ga zeggen. Maar verder ben ik geweldig. Ik ben geweldig. Beoordeel de pony, ga online. Duimpje omhoog, duimpje omlaag.

Katie Drummond: Vijf uit vijf.

Lauren Goode: Dank je wel. Katie, jij was echt mijn inspiratiebron.

Katie Drummond: Oh nee, dat is te aardig. Maar ik hou wel van een knal en haat een voorhoofd.

Michael Calore: Nou, ik heb een knipbeurt voor je.

Lauren Goode: Nou Mike, hoe gaat het met je? Sorry daarvoor, Mike.

Katie Drummond: Maar er zit gewoon zoveel intelligentie in, Mike. Dat is het nou juist.

Michael Calore: Ik ben precies zoals God mij gemaakt heeft.

Katie Drummond: Hoe gaat het met je?

Michael Calore: Het gaat geweldig met me. Ik heb geen haarverhalen. Ik heb de laatste tijd geen boter gegeten, dus ik voel me nu echt buitengesloten. Dit is WIRED's Uncanny Valley , een serie over de mensen, macht en invloed van Silicon Valley. Vandaag hebben we het over Meta's recente investering in Scale AI en de stap om een ​​superintelligentie AI-onderzoekslab te bouwen. Het is de nieuwste poging van Meta om te concurreren met de grote namen in de AI-race zoals OpenAI , Anthropic en Google . Maar Meta kiest een andere aanpak. Niet alleen zijn hun AI-modellen open source, maar in typische Meta-stijl lijkt het bedrijf te proberen zijn concurrenten te overtreffen om toptalent te verwerven, en hun Scale AI-investering, die geen overname is, is slechts onderdeel van die strategie. We duiken in wat Meta hoopt te krijgen van deze investering en wat het daadwerkelijk krijgt, en of deze stap het bedrijf het concurrentievoordeel kan geven dat het zoekt. Bovendien vragen we ons af: wat is superintelligentie eigenlijk? Ik ben Michael Calore, directeur consumententechnologie en -cultuur bij WIRED.

Lauren Goode: Ik ben Lauren Goode. Ik ben senior correspondent bij WIRED.

Katie Drummond: En ik ben Katie Drummond, de wereldwijde redactiedirecteur van WIRED.

Michael Calore: Laten we beginnen met Scale AI. In tegenstelling tot Meta is het bedrijf niet bepaald een begrip buiten Silicon Valley, maar het heeft zeker naam gemaakt in de AI-wereld. Hoe zit het met Scale?

Lauren Goode: Scale AI is een bedrijf dat zich bezighoudt met datalabeling. Klinkt erg aantrekkelijk, toch? Ze doen het zware werk van het analyseren en categoriseren van de data die later naar grotere AI-modellen wordt gedistribueerd om ze te trainen. Het is niets bijzonders, maar ze vervullen een essentiële functie om machine learning-programma's te verbeteren. En ze hebben een aantal behoorlijk grote klanten. Bedrijven zoals OpenAI en Google behoren tot hun klantenkring. Eerder dit jaar rapporteerde onze collega Will Knight over het nieuwe platform van Scale AI waarmee AI-modellen automatisch kunnen worden getest aan de hand van belangrijke benchmarks en eventuele zwakke punten in de modellen kunnen worden opgespoord. Dus in feite heeft Scale AI zich geconcentreerd om een ​​belangrijke partner te zijn in de samenwerking met deze grotere AI-bedrijven.

Katie Drummond: Ik denk dat het ook de moeite waard is om te benadrukken dat de oprichter, Alexandr Wang, echt de drijvende kracht is achter het succes van het bedrijf, toch?

Michael Calore: Ja.

Lauren Goode: Ja.

Michael Calore: Hij is de Flickr van CEO's.

Katie Drummond: Daar heb je het. Hij is 28 jaar oud en was ooit de jongste selfmade miljardair ter wereld, wat best ongelooflijk is. Hij is dus een bekende persoonlijkheid in Silicon Valley en staat misschien wel het meest bekend om zijn netwerkactiviteiten. Aangezien ik niet in San Francisco woon, kunnen Lauren en Mike je daar waarschijnlijk veel meer over vertellen. Maar hij was ooit huisgenoot van Sam Altman , die hem naar verluidt had aangeraden om wat minder te netwerken. Het is niet precies duidelijk wat de motivaties waren, maar Wang was duidelijk niet geïnteresseerd in dat advies en het heeft hem goed gedaan. Deze laatste deal tussen Meta en Scale AI kwam er dus eigenlijk nadat Wang en Zuckerberg naar verluidt veel tijd één-op-één samen hadden doorgebracht met netwerken, vermoedelijk. Het zijn dan ook zijn relaties met zoveel belangrijke spelers in de AI-industrie die hem nu een machtige positie hebben gegeven en ervoor hebben gezorgd dat hij gewild is bij een bedrijf als Meta dat, zoals we later nog zullen bespreken, echt een steuntje in de rug kan gebruiken in de AI-sector.

Bloomberg meldde onlangs dat Wang bekendstaat om het bellen van "een duizelingwekkend aantal mensen", en niet alleen senior, maar ook junior medewerkers van AI-bedrijven, om te laten weten waar ze aan werken en wat ze willen doen. Hij is dus niet alleen een netwerker, maar ook iemand die zijn oor te luisteren legt. Hij is in Silicon Valley min of meer op de hoogte van alles wat met AI te maken heeft.

Lauren Goode: Het klinkt vermoeiend.

Katie Drummond: Ja, dat klopt. Ik werd al moe als ik erover praatte.

Lauren Goode: Ja. En hoe ziet netwerken er in Silicon Valley eigenlijk uit? Het is net zoiets als: weet je …

Katie Drummond: Nou, vertel het me maar. Wat doen jullie?

Lauren Goode: Ja, ik weet het niet. Eerst wat mensen ontmoeten bij Blue Bottle voordat je naar Marine Layer gaat en dan naar een codeerfeestje dat de hele nacht duurt in de koets van een landhuis in Pacific Heights? Ik weet het niet. Hoe ziet dat eruit?

Michael Calore: Het is veel wandelen en praten.

Katie Drummond: Is dat echt zo?

Lauren Goode: Ja, in de Vallei wel.

Michael Calore: Ja.

Lauren Goode: Rondom Palo Alto zijn mensen in … Doen mensen dat ook in San Francisco?

Michael Calore: Ja hoor.

Lauren Goode: Ja? Ja, is dat zo?

Michael Calore: Ja, mensen wandelen en praten.

Katie Drummond: Nu we het toch over praten en lopen hebben, Mike, ik wil graag meer horen over de details van de deal.

Michael Calore: Ja. Laten we het eens hebben over hoeveel geld er in deze deal omgaat, plus wat Meta hoopt te krijgen van de investering, en misschien wel het belangrijkste, wat het er daadwerkelijk uithaalt.

Lauren Goode: De deal werd aangekondigd als een investering van $14,3 miljard in Scale AI. Voor de duidelijkheid: dit is geen overname. Ze nemen gewoon een belang van 49 procent in Scale AI en halen ook Alexandr Wang en een hoop talent binnen, maar het is geen overname, mensen. Noem het niet zo. We hebben de afgelopen 12 tot 18 maanden een golf hiervan gezien, waarbij Microsoft en Google ook strategische investeringen of licentieovereenkomsten hebben gesloten met kleinere AI-spelers om ze erbij te betrekken, maar niet per se onder de loep te nemen van de Amerikaanse overheid en het ministerie van Justitie, omdat ze hier snel willen handelen. Ze willen deze AI's zo snel mogelijk bouwen en dus willen ze al dit talent binnenhalen. En ja, we rekenen Meta hier ook bij, maar dat is in wezen wat ze met Scale AI doen.

Nu voor Alexandr, onze master-netwerker hier, omvat deze deal ook een leiderschapsrol in dit superintelligentieproject dat Meta gaat bouwen. We zullen hier later dieper op ingaan wanneer we het hebben over superintelligentie en wat het precies is. Zuckerberg, Meta bezit nu een strategisch belang van 49 procent in Scale AI. Wat Meta echt uit deze deal haalt, is de belangrijkste troef de enorme hoeveelheid AI-trainingsdata die Scale AI bezit, en dat leidt tot wat Meta op de lange termijn hoopt te bereiken: een boost voor de ontwikkeling van haar Meta AI-projecten.

Katie Drummond: En ik bedoel, Meta doet hier zeker veel slimme dingen, zou je kunnen zeggen. Een daarvan is dat ze hun concurrenten in een lastig parket hebben gebracht wat betreft de vraag of ze met Scale AI moeten blijven samenwerken of dat ze naar andere bedrijven moeten overstappen. En Scale AI heeft ook andere partnerschappen buiten het AI-ecosysteem. Zo heeft het bedrijf deals met buitenlandse overheden in Azië en Europa, en zelfs een deal met het Ministerie van Defensie voor een uniek AI-agentenprogramma, wat net zo dystopisch klinkt als het waarschijnlijk is. Het heet Thunder Forge. En het doel is in wezen om militaire operaties te verbeteren met AI-agenten. Ik bedoel, het is precies wat je zou verwachten. En Meta zou potentieel ook kunnen profiteren van al die allianties die Scale AI heeft. Je zou dus zeker kunnen zeggen dat het een wederzijds voordelige overeenkomst is en dat veel spelers in de AI-sector nauwlettend in de gaten worden gehouden als het om Meta gaat.

Lauren Goode: Ik bedoel, ik denk dat het belangrijkste om te onthouden over Meta is dat Meta zich een weg baant naar innovatie. Het doet dat niet helemaal op eigen houtje. Kijk maar naar WhatsApp, Instagram of Oculus, allemaal overgenomen door Meta. En soms, als Meta zelf een visie voor de toekomst probeert te ontwikkelen, zoals de Metaverse, waar we twee jaar geleden alleen maar over hoorden, valt het op zijn kop, of face computer, zoals we het graag noemen. Wat Meta hier doet, is niet alleen de data van Scale AI vastleggen, maar ook talent en technologie vastleggen waarvan het gelooft dat ze cruciaal zijn om de volgende fase van AI in te gaan. Een te simplistische manier om ernaar te kijken zou zijn: je hebt eigenlijk twee dingen nodig om een ​​AI op dit moment naar een hoger niveau te tillen: je hebt meer rekenkracht nodig en je hebt veel data nodig, idealiter van hoge kwaliteit.

Dit is duidelijk een data-aankoop, en het is ook een manier om te voorkomen dat andere bedrijven er mogelijk gebruik van maken. Zoals Katie al zei, trekt Google zich nu terug uit de samenwerking met Scale AI.

Michael Calore: En Meta doet dit omdat het nog een lange weg te gaan heeft om de top te bereiken, toch? We hebben het gehad over hoe Meta de afgelopen jaren heeft geworsteld in de AI-race, dus ik wil daar wat dieper op ingaan, met name hoe het achterloopt op zijn concurrenten en wat het specifiek probeert te doen om met deze investering vooruit te komen.

Lauren Goode: Dat klopt, met deze strategische investering, Mike. Het korte antwoord daarop is Llama, hun basismodel, hun antwoord op OpenAI's ChatGPT en Google Gemini. Helaas heeft Llama tot nu toe de hype eromheen niet echt waargemaakt. Het is niet zo krachtig als de concurrerende systemen van OpenAI en Google. Opvallend is echter dat Meta heeft geprobeerd zich te onderscheiden door Llama open-source te maken, wat betekent dat het de onderliggende code vrijelijk deelt met externe softwareontwikkelaars en bedrijven. Dus ik denk dat Meta ervan overtuigd is dat dit op de lange termijn juist voordelig voor hen zal zijn, ook al wint het momenteel niet aan snelheid en feeds.

Michael Calore: Mag ik je vragen wat de heersende mening is over de reden waarom Meta heeft besloten om Llama als open source-model uit te brengen in plaats van het gesloten te houden zoals al haar concurrenten?

Lauren Goode: Ja, het is een goede vraag. Ik wou dat ik Mark gewoon kon bellen en hem hier rechtstreeks naar kon vragen, maar dat kan ik niet, en we weten niet precies wat er in zijn hoofd omgaat. Maar ik denk dat je in elke robuuste technologische omgeving te maken krijgt met lock-in en open source-aanbieders, of je het nu hebt over IBM-mainframes en dan Linux, of over Apple-software versus Google Android. Ik denk dat Google Android het meest gebruikte besturingssysteem ter wereld is, en dat verschillende producten, bedrijfsmodellen en licentiemodellen daarop voortbouwen. En dat is misschien wel een deel van waar Mark Zuckerberg op de lange termijn over nadenkt. Ik denk dat hij zich ook erg beledigd voelt door Apple. Hij heeft dat specifiek gezegd toen hij vorig jaar een blogpost schreef waarin hij beargumenteerde waarom Llama open source is. Hij zei dat we, om dit goed te doen, ervoor moeten zorgen dat we altijd toegang hebben tot de beste technologie en dat we niet in het gesloten ecosysteem van een concurrent terechtkomen waar zij kunnen beperken wat we bouwen.

En hij zei dat een van zijn meest vormende ervaringen, het bouwen van Meta-diensten, was dat die diensten beperkt werden door wat Apple Meta op zijn platforms liet doen. Dus nu hij nadenkt over de toekomst van AI en wat er de komende jaren of daarna gebeurt, wil hij Meta blijkbaar niet opsluiten.

Michael Calore: Ja, het voelt alsof alle AI-inspanningen van Meta zich vooral op de oppervlakte hebben gericht, op een soort lichtgewicht, consumentgerichte dingen, toch? Ze hebben de Meta AI-app waarmee je kunt chatten, net als met een chatbot, ze hebben hun AI ingebouwd in de slimme brillen en ze hebben chatbots gemaakt die in Instagram werken en waarmee je met iemand kunt praten die praat als Snoop Dog . Er is ook de AI-ondersteunde zoekfunctie die is uitgerold naar alle verschillende Meta-projecten, maar het voelt echt alsof dit soort sociale interactie in AI, met name chatbot-AI, het punt is waarop ze zich alleen maar hebben geconcentreerd. Ze hebben geen geavanceerde systemen die bedrijven kunnen licenseren. Ze hebben niet veel van de grote munitie die andere bedrijven wel hebben.

Katie Drummond: Nou, en de AI voor consumenten, als ik het zo mag zeggen, is niet bijzonder goed of goed ontworpen, of goed gemaakt, of biedt geen bijzonder goede gebruikerservaring. Ik bedoel, ik heb geen Facebook-account, en dat al heel lang niet meer. Ik gebruik wel Instagram. Ik bedoel, ik heb die chatbot nog nooit gebruikt. Dus deze op consumenten gerichte weddenschappen zijn niet bijzonder succesvol geweest, en ze zijn niet erg goed, maar ze hebben de laatste tijd ook een aantal behoorlijk grote blunders gemaakt op het gebied van privacy. Verrassing, verrassing, Meta heeft problemen met privacy. Onze collega, Kylie Robison, meldde dat de app daadwerkelijk liet zien... Dit is waanzin. Het is gewoon waanzin. De app liet privégesprekken zien tussen de chatbot en gebruikers, inclusief medische informatie, huisadressen, zelfs dingen die direct verband hielden met lopende rechtszaken, waarbij mensen met de chatbot praatten, hem vragen stelden, hulp kregen met welke rare, zieke vraag ze ook probeerden te beantwoorden of probleem dat ze probeerden op te lossen.

En zonder dat ze het wisten, verschenen die gesprekken in een sociale feed waar iedereen iemand kon zien die probeerde het huurcontract van zijn huurder te breken, of porno te bekijken, of een medische diagnose te krijgen voor die vreemde bult op zijn voet. Al die dingen waar je, ja, voorzichtig mee moet zijn in je gesprekken met welke chatbot dan ook? Absoluut. Maar de meeste mensen gaan er in ieder geval van uit dat die dialogen en dat heen-en-weer gepraat niet zomaar op internet terechtkomen. Ik bedoel, het is een behoorlijk verbijsterende mislukking. En het voelt zeker niet toevallig, het voelt niet alsof ze zomaar zoiets hadden van: "O, wat gênant dat dit is gebeurd." Ik denk gewoon dat het ze niet echt kan schelen. En dit is natuurlijk al heel lang het verhaal rond Meta: er ontstaan ​​problemen met hun diensten, met name op het gebied van privacy, en iemand in de media bericht erover, en dan lossen ze het op, en dat is precies wat er deze keer is gebeurd. Ik geloof dat ze een disclaimer bovenaan de chatbot hebben geplaatst, zodat je weet dat je wel of niet akkoord gaat met het openbaar delen van je gesprekken.

Maar het voelt gewoon alsof ze niet echt geïnteresseerd zijn om diep na te denken over privacy. Wat mij betreft, als het gaat om chatbots en AI en deze dappere nieuwe wereld waarin we allemaal oprukken of worden opgeschoven, zouden we in sommige gevallen waarschijnlijk wat tijd moeten besteden aan privacyoverwegingen. Met deze deal met Scale AI hoopt Meta natuurlijk een nieuwe bladzijde om te slaan en een nieuw hoofdstuk te openen in al hun AI-inspanningen, zowel gericht op consumenten als op andere gebieden, met name met dit superintelligentie AI-lab.

Michael Calore: Het is echt belangrijk dat Meta niet al die grote uitspraken over superintelligentie doet. Het zou deze investering niet doen als het niet het gevoel had dat het al gefaald had in de race om sterke AI-programma's te ontwikkelen. Want dit is niet zomaar een reorganisatie of herschikking, dit is een complete reset. Het is een gloednieuw team met nieuw leiderschap en een nieuwe missie. Yann LeCun , een zeer gerespecteerde goeroe in Silicon Valley op het gebied van AI, leidt al heel lang de AI-inspanningen van Meta. Hij heeft de Turing Award gewonnen, de nerdtrofee voor AI-ingenieurs. Maar LeCun staat erom bekend dat hij niet denkt dat kunstmatige algemene intelligentie iets is dat op korte termijn te verwachten is. Hij is geen groot voorstander van chatbots. Hij ziet de waarde van grote taalmodellen, maar daar ligt zijn interesse niet. En ik denk dat als je er vol voor gaat, oké, wat is dan de volgende stap? Dan heb je nieuw bloed nodig. Je hebt mensen nodig die echt in deze volgende fase geloven, die natuurlijk wordt gedefinieerd met de term ‘superintelligentie’.

Lauren Goode: Superintelligentie.

Michael Calore: Laten we even pauzeren en dan komen we terug om te kijken wat dat betekent.

[pauze]

Michael Calore: Welkom terug in Uncanny Valley . Voor de pauze noemden we al dat een belangrijk aspect van deze deal tussen Meta en Scale AI, naast alle grote bedragen die ermee gemoeid zijn, de oprichting is van een superintelligentie-AI-lab. Dus, een vraag voor de groep: wat is superintelligentie in vredesnaam?

Katie Drummond: Lauren?

Lauren Goode: Oh nee. Nou, het verwijst in principe naar de ontwikkeling van een AI die verder gaat dan het menselijk brein. Het is een beetje onduidelijk wat dat precies betekent. De afgelopen jaren hebben we gehoord over AGI, wat kunstmatige algemene intelligentie is , nu hebben we het over superintelligentie. Mijn begrip, gebaseerd op gesprekken met onderzoekers en technologen hierover, is dat het geen moment is waarop je de schakelaar omdraait, het is niet alsof er een specifiek model of een productrelease komt waarbij we plotseling zeggen: "Oh, we leven in AGI," En: "Oh, de volgende stap is superintelligentie." Het gebeurt allemaal op een continuüm. Maar het idee is dat het iets is dat net zo slim is als een mens of het menselijk brein in je zak op je telefoon, wat gewoon gek is. Het zal niet bewust zijn, het zal geen emoties voelen, maar het zal dat allemaal zo goed nabootsen dat je er versteld van zult staan. En misschien is dat slecht nieuws voor ons mensen, ik weet het niet echt.

We weten wel dat de term 'superintelligentie' populair werd gemaakt door de Oxfordse filosoof Nick Bostrom, die in 2014 een boek schreef over superintelligentie. Hij schetste een toekomst waarin AI zich zou ontwikkelen tot een punt waarop het zich tegen de mensheid zou kunnen keren en deze zou kunnen vernietigen. En nu wordt het natuurlijk gebruikt door Mark Zuckerberg. Dus metaversum, superintelligentie, ik denk dat we op dit punt een idee hebben van wat er in Mark Zuckerbergs boekenkast staat.

Katie Drummond: En ik bedoel, ik denk dat die hele vraag, wat is AGI? Wat is superintelligentie? Ik bedoel, zoveel hiervan is gewoon branding. Dit is marketing die de AI-industrie gebruikt om een ​​gevoel van, denk ik, intimidatie, angst, ontzag, respect en eerbied op te roepen bij het grote publiek, bij beleidsmakers en wetgevers. Ik bedoel, ze willen dat dit voelt alsof dit volgende tijdperk voor de deur staat en dat we ons er nu op moeten voorbereiden. En als we er niet klaar voor zijn voordat China er klaar voor is, zal het gewoon catastrofaal zijn, want het is AGI. Het is zoiets van, maar wat is dat eigenlijk? En ik denk dat Meta hier iets superinteressants en een beetje cynisch doet, naar mijn mening, namelijk door dit nieuwe lab te positioneren als superintelligentie, zeggen ze in feite: "AGI? AGI is zo vorig jaar. We denken niet eens aan AGI. We springen gewoon helemaal naar superintelligentie."

Ik bedoel, dit is marketing ten voeten uit. Ik zeg niet dat deze technologie zich niet ontwikkelt, dat ze in de loop der tijd niet drastisch zal verbeteren, dat we geen AI zullen zien, en dat zien we al, die dingen kan die mensen ook kunnen. We zien dat voortdurend. Er zijn talloze voorbeelden daarvan. Maar ik denk dat deze termen op een heel oppervlakkige, opportunistische manier worden gebruikt om leiders en leidinggevenden in de industrie te laten klinken en hun technologie zo indrukwekkend, waardevol en intimiderend mogelijk te laten klinken. Dat is wat ik denk.

Michael Calore: Het is ook goede marketing voor recruiters. Als je een professional bent in de AI-industrie, verdien je al een aardig salaris, heb je het gevoel dat je aan de volgende grote stap werkt omdat je ergens aan AGI werkt, en dan ineens denk je: ja, maar zou je niet liever aan superintelligentie werken?

Lauren Goode: Ja. Ja.

Michael Calore: Wie werkt er nog meer aan superintelligentie? Zijn er andere AGI-bedrijven die zeggen: "Oké, nee, wacht, wij doen dat ook." Zijn er mensen die al een tijdje aan superintelligentie werken?

Lauren Goode: Het hangt ervan af naar welke AI-visionair je luistert. Sam Altman van OpenAI lijkt nog steeds behoorlijk gefocust op AGI. Hij heeft gezegd dat hij denkt dat het bereikt zal worden vóór het einde van Trumps huidige presidentiële termijn. Dario Amadei van Anthropic heeft gezegd dat hij dacht dat AGI in de komende twee jaar zou gebeuren. Dus dat zijn nog steeds de AGI-mensen. Aan de andere kant heb je Ilya Sutskever, de voormalige hoofdwetenschapper bij OpenAI. Hij is medeoprichter van een bedrijf genaamd Safe Superintelligence, en zij hebben een andere aanpak. Ze bouwen in het geheim aan superintelligentie en zeggen dat ze deze technologie pas op de wereld zullen brengen als deze veilig wordt geacht. Dus ik denk dat ze allemaal naar hetzelfde streven, maar "superintelligentie" is het nieuwste modewoord.

Katie Drummond: Ik vind het geweldig dat ze nog jarenlang ondergedoken zullen zitten.

Michael Calore: Ja.

Katie Drummond: Ik kan niet wachten tot ik ze met hun veilige AI uit hun bunker zie kruipen.

Michael Calore: Ja, ze bewaren hem in de kelder, aan een ketting.

Katie Drummond: Het is belangrijk om op te merken, Ilya daargelaten, dat niet alle AI-leiders enthousiast zijn over de hype rond superintelligentie. Dit zijn mensen die zich historisch gezien op de achtergrond hielden, maar de laatste tijd zijn er meer van hen zich gaan uitspreken, wat ik opmerkelijk vind. Thomas Wolf is daar een voorbeeld van. Hij is medeoprichter en Chief Science Officer van Hugging Faces. Hij noemde sommige delen van Amadei's Visie "op zijn best wensdenken". Dat zou de visie van AGI zijn. En Demis Hassabis , de CEO van Google DeepMind, zou zijn personeel hebben verteld dat het volgens hem nog wel tien jaar kan duren voordat de industrie AGI ontwikkelt, omdat er veel is dat AI vandaag de dag gewoon niet kan. Dus nogmaals, dat is scepsis rond AGI. We hebben het nog niet eens over superintelligentie. Dus God weet wanneer dat klaar zal zijn. Ik denk dat Ilya het ons laat weten.

Michael Calore: Laten we het eens hebben over alle mensen die hierbij betrokken zijn. Je hebt echt al het toptalent nodig om echt te kunnen concurreren als je iets wilt bouwen, ongeacht hoe je het noemt. En in deze investering die Meta deed met Scale AI, hebben ze Alexandr Wang erbij gehaald. Hij komt naar het bedrijf en haalt belangrijke mensen van Scale mee om met hem samen te werken bij Meta in het superintelligentielab. En dit gebeurt in een tijd waarin AI-talent enorm gewild is en alle topingenieurs miljoenen en tientallen miljoenen dollars per jaar aangeboden krijgen om bij de grote bedrijven te werken. En blijkbaar heeft Meta tot wel negencijferige compensatiepakketten aangeboden om mensen te strikken voor het superintelligentielab.

Katie Drummond: Wacht even. Kun je negen cijfers noemen? Dus dat zijn geen honderdduizenden, geen miljoenen, geen tientallen miljoenen, maar honderden miljoenen?

Michael Calore: Het is meer dan 100 miljoen dollar.

Lauren Goode: Wat?

Michael Calore: Ja.

Katie Drummond: Ik ben sprakeloos. Ik wist van die zeven en acht cijfers, wat ook verbijsterend is, maar negen cijfers is onwerkelijk. Dat is onwerkelijk geld.

Lauren Goode: Ik dacht echt: ik moet hier nu over lezen. Wat? Dat is echt bizar. Ik ga mijn eerdere woorden herzien: "Oh, de bedrijven die nu proberen een stap verder te komen in AI, kijken naar rekenkracht en data." Ze kijken ook naar talent. Dat is een enorm, enorm belangrijk onderdeel hiervan. Ik ben nog steeds sprakeloos dat deze mensen zoveel geld aangeboden krijgen, maar ik denk dat Meta dat ook vindt. Ik vraag me af hoe dit in de volgende winstcijfers tot uiting komt. We zagen eerder deze week ook dat een ervaren machine learning engineer en onderzoeker bij OpenAI net is overgeplaatst naar een nieuwe functie als hoofd recruitment bij OpenAI, wat fascinerend is. Ik bedoel, de eerste reactie is zoiets van: tja, dat is een interessante carrièreswitch. Maar dan denk je: oh, die man gaat het gesprek aan. Hij moet nu op pad gaan om de allerbeste talenten voor OpenAI te werven, en voortdurend de allerbeste talenten voor OpenAI werven. En nu moeten ze concurreren met Meta, dat miljoenen, zelfs miljarden dollars aan ingenieurs biedt.

Er is dus inderdaad, denk ik, een race om talent gaande. David Kahn, investeerder bij Sequoia Capital, schreef hier onlangs een blogpost over die ik net las. Hij stelde dat talent de nieuwe bottleneck is in AI, en hij vergeleek het met het opbouwen van een sportteam. Ze worden allemaal gesteund door een megarijk techbedrijf of individu, en de sterspelers kunnen waanzinnige salarissen van tientallen miljoenen tot honderden miljoenen dollars bedingen. In tegenstelling tot sportteams, waar spelers vaak langlopende contracten hebben, kunnen arbeidsovereenkomsten bij AI kortlopend en liquide zijn, wat betekent dat iedereen op elk moment kan worden weggekaapt.

Katie Drummond: Het is fascinerend, het is grotesk. Ik wil alles weten over hoeveel deze mensen betaald krijgen. Ik wil alles weten. En voor Meta zal het interessant zijn om te zien hoeveel geld ze nodig hebben om toptalent binnen te halen. Ik bedoel, geld is belangrijk. Als iemand me honderd miljoen dollar aanbiedt om te werken voor iemand waar ik niet zo enthousiast over ben, bij een bedrijf waarvan ik vond dat het over het algemeen een middelmatige staat van dienst had en een vrij slechte reputatie op het gebied van AI, dan maakt honderd miljoen dollar het verschil. En het zal heel interessant zijn om te zien of de Anthropics, OpenAI's en Googles van deze wereld kunnen concurreren. Ik bedoel, we weten dat Zuckerberg zelf veel van deze werving doet. Hij neemt persoonlijk contact op met kandidaten. Ik vraag me af, en we zullen erachter komen, of dat in het voordeel van het bedrijf is of niet.

Lauren Goode: Ik bedoel, los van hoe je over Mark Zuckerberg denkt, Meta is gewoon... Het bestaat inmiddels al een tijdje. Het is een bedrijf van 20 jaar oud. Het is beursgenoteerd. Je krijgt er waarschijnlijk ook nog eens een mooi aandelenpakket bovenop. Maar als je je aansluit bij een ruimteschip als OpenAI, doe je dat omdat je denkt dat als je er vroeg genoeg bij bent... Op dit moment is het nog niet eens zo vroeg, maar dat je op een gegeven moment multi-, multi-, multimiljonair wordt als dat bedrijf groeit, verkoopt of zoiets. En dat creëert dan het vliegwieleffect dat we altijd in Silicon Valley zien, toch? De eerste Google-medewerkers die vertrokken en andere dingen begonnen. We zullen uiteindelijk deze golf van OpenAI-mensen zien die vertrekken en andere dingen beginnen. Maar als je op dit moment een vergelijkbaar aanbod krijgt van OpenAI of Meta, voor wie ga je dan kiezen als je echt aan de toekomst denkt?

Michael Calore: En ik bedoel, er zijn veel mensen die dat geld niet aannemen. Ik bedoel, als je denkt aan het type mensen dat deze superhoge salarissen afdwingt, ze zijn al een aantal jaren heel, heel goed betaald, misschien is hun bedrijf overgenomen en hebben ze daar een grote uitbetaling voor gekregen, dus nu zitten ze comfortabel in een positie bij Anthropic of bij OpenAI. En ook het project waaraan ze werken is iets dat past bij hun vaardigheden en misschien willen ze het afmaken. Dus er is een beetje ego bij betrokken, er zijn een beetje levensbeslissingen bij betrokken, en er is ethiek bij betrokken, zoals: wil je echt voor Meta gaan werken? Wil je dit ding bouwen dat ze bouwen? Vooral nadat ze de aankondiging hebben gedaan dat ze hun technologieën gaan toestaan ​​voor gebruik door het Ministerie van Defensie en dat ze oorlogsvoering gaan uitvoeren met de AI-tools die ze bouwen en de XR-tools die ze bouwen.

Ja, ik denk dat er veel mensen zijn die er nu gewoon lekker voor zitten en die moeten beslissen of het geld het voor hen als mensen waard is.

Lauren Goode: Gebruiken jullie weleens de app Blind?

Michael Calore: Nee. Dit is degene waarin mensen vertellen hoe het is om bij een bedrijf te werken?

Lauren Goode: Het gaat erom werken voor een bedrijf omdat je jezelf moet aangaan met een bedrijf wanneer je je aanmeldt voor de app, maar het zijn allemaal onderwerpen. En vaak zijn het mensen die naar de groep komen met een compensatiepakket en zeggen: ik kreeg dit aangeboden van Meta of Amazon en wat moet ik doen? En je realiseert je gewoon hoe ver deze wereld soms is van de manier waarop de rest van de wereld of de rest van het land leeft. Mensen die zeggen: "Wel, ik weet het niet. Moet ik dit $ 700.000 -pakket van Amazon nemen? En dat is zonder aandelengelijkheid, voordelen, of moet ik dit andere vergelijkbare pakket van een soortgelijk bedrijf nemen, maar ze zullen me toestaan om vanuit huis te werken? En ik weet het niet omdat ik 40 heb en ik heb slechts 10 miljoen in pensioen." Ik ben zo van, oh mijn god, dat is de wereld waar we het over hebben.

Michael Calore: Ja.

Katie Drummond: We moeten hier meer over melden. Ik denk dat de vergoeding van mensen in Silicon Valley fascinerend is.

LAUREN GOODE: Nou, als iemand zou willen wegen, als je een recruiter bent, als je een persoon bent die een van deze aanbiedingen heeft gedaan van het Meta Superintelligence Lab, willen we van je horen.

Michael Calore: Groot geld.

Katie Drummond: Dat doen we zeker.

Lauren Goode: Onze signalen zijn er.

Michael Calore: Groot geld, geen whammies.

Lauren Goode: Nu weten we waar Katie ons voor zou verlaten: gaan werken voor Mark Zuckerberg.

Katie Drummond: Honderd miljoen dollar is veel geld. Het is veel geld.

Lauren Goode: Het is veel geld.

Katie Drummond: Dat zou moeilijk voor mij zijn. Ik denk niet dat ik het zou kunnen doen.

Lauren Goode: Yep. Als je het investeert, nou, het zou veel geld zijn voor de kinderen van je kinderen.

Katie Drummond: Ik weet het, maar dan zou ik mijn kind moeten vertellen wat ik doe, en ik weet niet dat ik dat zou kunnen doen. Ik ben helemaal eerlijk. Ik denk niet dat ik het zou kunnen doen. Laat me duidelijk zijn, er zijn veel fantastische mensen die bij meta werken. Ik bedoel, dit is geen afwijzing van iemands beslissingen of loopbaankeuzes of waar ze ervoor hebben gekozen om te werken, gezien mijn achtergrond en wat ik doe voor de kost, ja, ik weet het niet. Ik denk niet dat ik dat zou kunnen doen.

Michael Calore: Je maakt deel uit van de Superintelligence -revolutie.

Katie Drummond: Ik wil het niet.

Michael Calore: Misschien gebruik je gewoon de chatbot en dan kun je het gevoel hebben dat je er deel van uitmaakt.

Katie Drummond: Ja, daar ga je. Ik heb een aantal dringende en zeer persoonlijke vragen voor de chatbot van Meta, en zodra we van deze opname afkomen, ga ik ze allemaal privé vragen.

Michael Calore: Ik kijk ernaar uit om ze te lezen op de [onhoorbare 00:30:11].

Lauren Goode: Katie's Like, hoe haal ik mezelf uit een werkproject dat me elke week twee uur lang in een kamer heeft opgesloten?

Katie Drummond: Oh schat.

Michael Calore: OK, laten we nog een pauze nemen en we komen meteen terug met aanbevelingen.

[pauze]

Michael Calore: Oké, bedankt voor een geweldig gesprek over superintelligence. Dus ik denk dat het tijd is om onze luisteraars iets te geven van onze eigen superintelligente menselijke hersenen, onze aanbevelingen voor de week. Lauren, wil je eerst gaan?

Lauren Goode: Natuurlijk. Ik heb onlangs geleerd dat je door generatieve AI -tools zoals Chatgpt te gebruiken, je kleuranalyse kunt laten doen. Heeft u dit ooit gedaan?

Michael Calore: Nee.

Katie Drummond: Nee.

LAUREN GOODE: Dus dit is een ding dat deel uitmaakt van de wereld van de schoonheidsinvloeden online, waar je meestal iemand zou betalen, soms een mens, soms een app die menselijke input heeft, om de kleur van je haar, huid, ogen, huidtint, dat alles te analyseren en je te vertellen welk seizoen je dan moet dragen en dan je kunt dragen welke kleding je moet dragen op een manier die je hele situatie heeft.

Katie Drummond: Heb je deze onthullend gevonden?

Lauren Goode: Ja. Dus toen ik recent toen ik met een paar vrienden hing, had een van hen haar kleuranalyse gedaan en we hadden het erover en ze zei: "Oh, je kunt het gewoon doen op chatgpt." En ik had zoiets van: "Wat? Je hoeft niet iemand een paar honderd dollar te betalen om dit te doen?" Dus uploadde ze onze foto's naar Chatgpt en ik kreeg een kleuranalyse gedaan. En dus ben ik een diepe herfst, voor het geval iemand het wil weten.

Michael Calore: Het is een brandende vraag.

Lauren Goode: Dat was de brandende vraag. Ik dacht dat ik misschien een winter was, maar ik ben een diepe herfst. En dus denk ik tot nu toe, dit is het meest interessante gebruiksvoorziening van chatgpt dat ik tot nu toe heb meegemaakt.

Michael Calore: Ever, van alles ...

Lauren Goode: Nee, dat is niet waar.

Michael Calore: Van al je ervaringen.

Lauren Goode: Dat is niet waar. Onlangs vertelde het me hoe ik Salini -champignons moest koken in plaats van cremini -champignons. Ik ben er vrij zeker van dat Salini -paddestoelen niet bestaan. Dus het was in dat opzicht ook nuttig.

Katie Drummond: Yikes.

Lauren Goode: Maar nee, ik heb het ook voor andere dingen gebruikt. Ik heb het gebruikt voor onderzoek en redeneren en leuke dingen.

Michael Calore: Dat is best goed.

LAUREN GOODE: Dus misschien later, ik ga eigenlijk foto's van jullie beiden uploaden naar chatgpt en het vragen om je kleuranalyse te doen.

Michael Calore: Ik stem niet in.

Lauren Goode: En dan zal ik je vertellen ... oké. Welke kleur zou je moeten dragen. Jullie dragen allebei nu helemaal zwart.

Katie Drummond: Zoals gewoonlijk.

Michael Calore: Ja, ik ging zeggen. Ik bel die dagen weekdagen.

Lauren Goode: Anarchisten in de kamer. Ik vind dit geweldig. Ok, dat is het. Dat is mijn aanbeveling.

Katie Drummond: Ik dacht aan wat ik moest aanbevelen en het zou een boek, een kinderfilm of eten worden, en ik had zoiets van, nee, meid, je hebt al die al gedaan. Je moet iets anders bedenken. Ik heb eigenlijk een AI-gerelateerde aanbeveling, dat wil zeggen, ik had onlangs iemand gekomen om me te helpen met mijn buitenplanten, zoals onze kleine achtertuin in Brooklyn, en ik vertelde hem dat al mijn binnenplanten sterven en worstelen, en ik was gewoon zo verward. Ik had zoiets van in welk venster deze zou moeten gaan? En wat ... bla, bla, bla, bla, bla. Hoe vaak water heb ik al deze dingen water? Ik heb veel planten. En hij raadde deze app aan die foto dit noemde. En je maakt foto's van al je planten en je uploadt de foto's naar de app, het vertelt je wat voor soort plant het is, het vertelt je hoe vaak het je moet water geven. Je kunt je telefoon gebruiken om de app te laten zien hoeveel zon er door het raam binnenkomt, en het zal je vertellen of dat genoeg zon is, te veel zon, niet genoeg zon.

Oh, en je kunt een foto van de plant maken en het zal je vertellen of het ziek is en waar het mee worstelt, wat erg verontrustend is, maar zeer behulpzaam. Ik heb veel worstelende planten. Maar het is heel, heel cool. Het is absoluut zeer veroordelend. Ik krijg nu pushmeldingen die zeggen: "Wil je niet voor je planten zorgen?" En ik ben zo, nou, dat doe ik, maar ik heb ook een baan. Het is een heel, heel interessant product, en als je planten hebt, raad ik het ten zeerste aan.

Lauren Goode: Stel je dit voor.

Katie Drummond: Stel je dit voor. Gezonde planten, gezond u. Superintelligence, stel dit voor.

Lauren Goode: Mike, wat is uw aanbeveling?

Michael Calore: Ik denk dat het gezien de huidige geopolitieke staat van de wereld, het tijd is om Dr. Strangelove , de film uit 1964 van Stanley Kubrick, opnieuw te bekijken. Dr. Strangelove of: hoe ik leerde stoppen met zorgen te maken en van de bom te houden . Het gaat om escalerende politieke spanningen op basis van een misverstand dat leidt tot nucleaire oorlog. Het is een farce. Het is erg grappig. Het is ook erg droog, maar het is een geweldige film. Ik bekijk het helaas opnieuw ongeveer een keer per jaar. Ik word meestal gedwongen door actuele gebeurtenissen om het te bekijken. Dus ik zou zeggen dat het een goed moment is om Dr. Strangelove te bekijken. En ik zeg niet dat de wereld zal eindigen, maar wanneer we beginnen te praten over kernenergie en we beginnen te praten over de mensen in de wereld die hun vingers op de knop hebben, is het belangrijk om onszelf eraan te herinneren dat dit menselijke beslissingen zijn die mensen nemen over onze toekomst, en het is een geweldige film om u te helpen die informatie te verwerken.

Katie Drummond: Wauw.

LAUREN GOODE: Dus Katie heeft haar planten water geven en ik snijd pony en je kijkt films over het einde van de wereld. Ik zie wie onder ons echt duikt en wie is ...

Michael Calore: Dus veel mensen negeren de leegte. Veel mensen erkennen het. Ik ben een van die mensen die mijn gezicht recht tegen het glas plaatst en er gewoon bang voor is.

Katie Drummond: Dat is net als mijn man. Niet om het allemaal over hem te maken, maar ... ik heb het gevoel dat ik de leegte bedek. Ik doe de leegte voor mijn werk. Elke dag sta ik in de leegte. Dus als ik nietig uit het werk ben, wil ik La La Land ingaan. En dus vertelde ik gisteravond aan mensen in Slack vandaag, mijn man sms'te me links naar gebruikte motorboten omdat hij als de veiligste plek was voor ons om te zijn tijdens een nucleaire aanval ligt in het midden van een waterlichaam.

Lauren Goode: Goede heer.

Katie Drummond: En ik had zoiets van, en wat denk je precies dat we gaan doen in deze kleine motorboot in het midden van de Atlantische Oceaan voor de kust van New York City? Ik denk dat als het neerkomt op motorboot of dood, we waarschijnlijk zullen sterven.

Lauren Goode: Ja, ja.

Katie Drummond: Gewoon zeggen.

Lauren Goode: Dat was voor het slapengaan, zoals voordat je moest gaan slapen?

Katie Drummond: Precies toen ik in bed lag om te slapen en het ding is als ping, ping, links naar gebruikte boten.

LAUREN GOODE: Ik bedoel, ik denk dat we tegenwoordig allemaal nietig zijn, dus je kunt het niet echt negeren.

Katie Drummond: Je kunt het niet negeren, maar het is een keuze om er in je persoonlijke tijd in te leunen, zal ik zeggen.

Michael Calore: Ik zou zeggen dat als je die oefening gaat doen, er minder mensen zijn met wie het heerlijker is om het te doen dan Peter Sellers en George C. Scott en Sterling Hayden en Stanley Kubrick. Het is een geweldige film, dus stream het vanavond.

Katie Drummond: We linken het in de shownotities.

Michael Calore: Bedankt voor het luisteren naar Uncanny Valley . Als je het leuk vond wat je vandaag hoorde, volg je onze show en beoordeel deze op je podcast -app naar keuze. Als u contact met ons wilt opnemen met vragen, opmerkingen of suggesties tonen, schrijf dan ons op [email protected] . De show van vandaag wordt geproduceerd door Kyana Moghadam en Adriana Tapia. Amar Lal bij Macrosound mengde deze aflevering. Jake Lummus was onze New York Studio Engineer. Daniel Roman controleerde deze aflevering. Jordan Bell is onze uitvoerend producent. Katie Drummond is de wereldwijde redacteur van Wired en Chris Bannon is het hoofd van Global Audio.