Resumen de WIRED: ChatGPT se vuelve completamente demonio

En el episodio de hoy, nuestra presentadora Zoë Schiffer se reúne con Louise Matsakis, editora senior de negocios de WIRED, para repasar cinco de las historias más importantes que publicamos esta semana, desde la continua búsqueda de talentos en IA de Meta hasta la rapidez con la que nuestros cerebros han envejecido desde la pandemia. Después, profundizan en la sorprendente razón por la que, según se informa, ChatGPT se volvió completamente demonio la semana pasada.

Puedes seguir a Zoë Schiffer en Bluesky en @zoeschiffer y a Louise Matsakis en @lmatsakis . Escríbenos a [email protected] .

Mencionado en este episodio: El verdadero demonio dentro de ChatGPT por Louise Matsakis ; La campaña de reclutamiento de IA de Meta encuentra un nuevo objetivo por Kylie Robison ; La pandemia parece haber acelerado el envejecimiento cerebral, incluso en personas que nunca contrajeron COVID-19 por Javier Carbajal; Las leyes de verificación de edad disparan el uso de VPN y amenazan la internet abierta por Lily Hay Newman y Matt Burgess; Este balón de baloncesto inteligente registra datos de cada tiro. Podría llegar a la NBA por Ben Dowsett ; La primera migración planificada de un país entero está en marcha por Fernanda González.

Siempre puedes escuchar el podcast de esta semana a través del reproductor de audio de esta página, pero si quieres suscribirte gratis para obtener todos los episodios, aquí te explicamos cómo:

Si usas un iPhone o iPad, abre la app Podcasts o simplemente pulsa este enlace . También puedes descargar una app como Overcast o Pocket Casts y buscar "Uncanny Valley". También estamos en Spotify .

Nota: Esta es una transcripción automatizada, que puede contener errores.

Zoë Schiffer: Hola, soy Zoë. Antes de empezar, quiero contarles sobre el nuevo programa de suscripción de WIRED. Si ya están suscritos, muchas gracias por apoyarnos. Si aún no se han suscrito, este es un excelente momento para hacerlo. Tendrán acceso a boletines informativos con análisis exclusivos de los reporteros de WIRED y a sesiones de preguntas y respuestas en vivo donde podrán hacer sus preguntas más urgentes. Visiten WIRED.com para obtener más información.

Bienvenidos a "El Valle Inquietante" de WIRED. Soy Zoë Schiffer, directora de Negocios e Industria de WIRED. Hoy en el programa, les traemos cinco historias que necesitan conocer esta semana y más adelante profundizaremos en nuestro segmento principal sobre cómo los chatbots de IA como ChatGPT tienden a ignorar el contexto de la información que absorben. Esto ha llevado a algunos chatbots a situaciones muy extrañas, como sugerir rituales demoníacos a los usuarios. Hoy me acompaña Louise Matsakis, editora sénior de Negocios de WIRED. Louise, bienvenida a "El Valle Inquietante" .

Louise Matsakis: Hola Zoë.

Zoë Schiffer: Nuestra primera historia es una en la que tú y yo hemos estado muy metidos. Se trata de la guerra de talentos en IA. Mark Zuckerberg y Meta se han quedado atrás de la mayoría de sus competidores más pequeños y de igual tamaño en la carrera de la IA, y últimamente Mark se ha esforzado al máximo para reclutar a los mejores investigadores de laboratorios competitivos y, de alguna manera, atraerlos a Meta ofreciéndoles salarios altísimos. Se dice que estamos hablando de más de 300 millones de dólares en cuatro años, aunque Meta ha cuestionado estas cifras. Pero esta semana nos dimos cuenta de que ha puesto la mira en un laboratorio más pequeño: Thinking Machines.

Louise Matsakis: Sí, Thinking Machines es la startup fundada por Mira Murati, exdirectora de tecnología de OpenAI. Y creo que es destacable que esta startup aún no tenga ningún producto. La startup no ha hecho nada hasta ahora, y a sus empleados ya les están ofreciendo cientos de millones de dólares.

Zoë Schiffer: Louise, eso no es un problema en IA. Creo que este es un campo donde la narrativa es muy importante, pero estos investigadores son, obviamente, extremadamente valiosos. Algo que escuché de fuentes cuando informamos sobre esto fue que han estado en proceso con Meta prácticamente para evaluar su valor de mercado. Incluso si no se toman en serio unirse a Meta, la pregunta es: "¿Cuánto valgo?". Y la respuesta es cientos de millones de dólares en algunos casos.

Louise Matsakis: Sinceramente, no entiendo cómo se hacen estos cálculos y no entiendo qué hace que uno de estos investigadores valga 300 millones en lugar de 500 millones. ¿Cuánto de eso es fruto de la negociación? Y creo que esto contradice muchos de los conocimientos que creía tener sobre cómo se produce la innovación en IA. Suele tratarse de un grupo de personas muy apasionadas, a menudo bastante jóvenes. Muchos de los artículos más famosos fueron escritos por personas menores de 25 o, al menos, menores de 30. Así que ahora pienso: «Publicaste un artículo muy interesante y ahora vales 500 millones».

Zoë Schiffer: Sí, hablé con alguien muy involucrado y me dijo: "Mira, en teoría, podemos ofrecer esto. Pero la realidad es que, en este momento, cuando se trata de un investigador de IA, el cielo es el límite. Literalmente, no hay nada que no podamos ofrecerle". Es muy interesante. Siento que lo que dices tiene sentido a nivel individual. Es simplemente desconcertante. Te preguntas: ¿cómo es posible que esta joven de 23 o 24 años valga tanto? Pero creo que, si tuviera que ponerme en el lugar de Mark Zuckerberg, esta es una crisis existencial para la empresa. Quizás siente que Meta se está quedando atrás y que la empresa, a pesar de estar ganando tanto dinero, a pesar de que sus otros productos tienen un éxito rotundo, su uso en algunas áreas está en declive. Hay un límite a la hora de introducir más anuncios en el flujo de trabajo de productos existente. ¿Y qué no haría usted para garantizar que su empresa se mantenga a la vanguardia?

Louise Matsakis: Totalmente. Creo que la estrategia está un poco al revés. Prefiero cubrir mis gastos y contratar a 600 nuevos doctores por un millón de dólares al año o 500.000 dólares al año. Quizás eso no sea suficiente hoy en día. Quizás no sea posible, pero darles 10 millones de dólares al año y ver qué tal les va en lugar de contratar a estas grandes estrellas. Creo que da la impresión de ser muy desesperado y de intentar revertir algo que no estoy seguro de poder revertir.

Zoë Schiffer: No, por supuesto. Es decir, esa es la estrategia. Nuestro último informe mostró que, en algunos casos, investigadores de primer nivel, y cabe mencionar que esta no es la cifra que se menciona a menudo, pero superó los mil millones de dólares. Y eso a lo largo de un período de varios años. Así que no se trata de decir que se esté recibiendo esa cantidad por adelantado, ni mucho menos, pero, bueno, se promete riqueza generacional. Algunas de las otras ofertas oscilaban entre los 200 y los 500 millones, pero hasta ahora, al menos en Thinking Machines, nadie parece haber aceptado una de estas ofertas, lo cual es fascinante.

Louise Matsakis: Sí, creo que demuestra que, llegados a cierto punto, estas cifras pierden importancia. Si vas a ganar 100 millones de dólares en lugar de 200 millones, prefiero ser feliz y probablemente dedicarme a lo que me gusta, porque el dinero no puede comprar mucho más que eso, a menos que te encanten los superyates, supongo.

Zoë Schiffer: Aviones.

Louise Matsakis: Sí, entonces creo que tal vez dice algo sobre la cultura en Meta y ¿crees que hay cosas específicas que generan inquietud en la gente o es simplemente que la gente es leal a Mira y a estos otros fundadores de startups?

Zoë Schiffer: Creo que la lealtad es fundamental. Quienes creen en Mira parecen creer muchísimo en ella, y eso es evidente tanto para los inversores como para los empleados. Pero he oído dos cosas sobre Meta que me llamaron la atención. Una es que Mark Zuckerberg contrató a Alexandr Wang, cofundador de Scale AI, una especie de startup de etiquetado de datos, para dirigir o codirigir los nuevos laboratorios de superinteligencia de Meta. Y la opinión sobre Alexandr es muy diversa. Algunos, obviamente, quieren trabajar para él y se han pasado a Meta. Muchos me han dicho que no les interesa por diversas razones. Así que eso es algo que voy a comentar. La otra, y no lo he publicado completamente, pero lo he oído tantas veces que vale la pena mencionarlo, es que algunos creen que el giro derechista de Mark Zuckerberg y su hipermasculinidad, que parece estar mostrando, han desalentado a la mayoría de los investigadores académicos y discretos.

Louise Matsakis: Creo que eso tiene mucho sentido. Además, no tiene experiencia académica ni en investigación. No creo que comprenda los incentivos de un puesto como ese. Y también vale la pena mencionar que Alexandr tiene, creo, 27 años y que la industria del etiquetado de datos con IA se considera la parte vulnerable de esta industria. Así que creo que eso también influye: ¿de verdad queremos trabajar para alguien conocido por tener un ejército de personas mal pagadas en todo el mundo etiquetando imágenes para coches autónomos?

Zoë Schiffer: Totalmente. De acuerdo. Pasemos a una historia con la que creo que muchos nos podemos identificar. Un nuevo estudio científico publicado este mes en la revista Nature Communications muestra que la pandemia podría haber acelerado el envejecimiento cerebral incluso en personas que nunca contrajeron COVID-19, lo cual es una locura. Javier Carbajal, colaborador de WIRED, informó que los investigadores del estudio, con sede en el Reino Unido, compararon numerosas resonancias magnéticas cerebrales realizadas antes y después de la pandemia, y descubrieron que la diferencia entre nuestra edad cerebral cronológica y la real es aproximadamente cinco meses y medio mayor después de la pandemia.

Louise Matsakis: ¡Dios mío! Medio año. ¡Menudo trato, cariño! ¡Suena genial!

Zoë Schiffer: También creen que el estrés y el aislamiento contribuyeron, lo cual me parece cierto. Creo que las consecuencias fueron peores para las personas de menor nivel socioeconómico, especialmente para los hombres mayores. Esto concuerda con otros datos que conocemos. Siguiendo un poco con el Reino Unido, nuestra siguiente noticia trata sobre las leyes de verificación de edad que entraron en vigor el viernes pasado. Nuestros colegas Lily Hay Newman y Matt Burgess informaron que la Ley de Seguridad en Línea del Reino Unido entró en vigor la semana pasada, la cual exige que los sitios web de pornografía y otros sitios de contenido para adultos implementen funciones de verificación de edad. Tengo mucha curiosidad por conocer su opinión al respecto, ya que creo que la verificación de edad es una de esas cosas en las que, al analizarla, la idea principal se invierte por completo.

Louise Matsakis: Totalmente. Hace unos años, cuando muchos legisladores estadounidenses hablaban de esto, se referían específicamente a China y decían: "China tiene verificación de edad y, mientras tanto, en EE. UU. estamos dejando que esta empresa china, TikTok, envenene a nuestra juventud". Así que investigué cómo China implementa la verificación de edad, y es exactamente lo que dijiste. Desde cero, es una arquitectura de vigilancia. Tuvieron que construir su internet ladrillo a ladrillo para tener esta vigilancia en cada capa, y además, no funciona. Si vas a cualquier parte de China, verás a niños pequeños mirando TikTok porque simplemente han iniciado sesión en la cuenta de sus padres. Es como si pensaras que esto es un derecho de los padres y debería ser algo personal y decidido en casa. Simplemente no creo que el gobierno deba ser quien supervise esto.

Zoë Schiffer: Sí, quiero decir, esto es exactamente lo que hemos visto en el Reino Unido, que es que el uso de VPN que te permiten acceder a sitios web sin que se rastree parte de tu información se ha disparado enormemente desde que esto se implementó, y solo han pasado unos pocos días.

Louise Matsakis: Lo único que puedo decir es que miremos a la China rural, donde hay una epidemia de personas que parecen abuelas y pasan todo su tiempo en TikTok, cuando en realidad son solo sus nietos los que inician sesión en sus cuentas.

Zoë Schiffer: O sea, solo el tiempo dirá la efectividad de estas medidas de verificación de edad. Pasando a la cancha de baloncesto, este es un punto de inflexión. ¿Practicabas algún deporte en la preparatoria o en la universidad?

Louise Matsakis: No, no practiqué ningún deporte. Soy completamente incompetente. Disfruto de diversas formas de ejercicio, pero ninguna de ellas la consideraría un deporte competitivo. ¿Tú lo hiciste?

Zoë Schiffer: No, en absoluto. Y cada vez que Andrew, mi marido, intenta lanzarme una pelota o jugar a cualquier cosa, dice: "¡Guau! Nunca has jugado a un videojuego ni has practicado deportes. Nunca había visto a alguien con tan poca coordinación ojo-mano". Ahora, cuando veo correr a mi hija, pienso: "Lo heredó de mí. Parece que no va a ser una habilidad". Pero bueno. Esta es la perspectiva de WIRED sobre los deportes, donde Ben Dowsett, colaborador de WIRED, informó que se está desarrollando y probando un balón de baloncesto inteligente que podría llegar a la NBA. El balón se llama Spalding TF DNA y registra información increíblemente granular y detallada durante el juego: no solo los encestes y los fallos, sino también el ángulo y la trayectoria del tiro y el tiempo que tarda un jugador en soltar el balón. Esto podría ser útil para los jugadores mientras entrenan o para tomar decisiones durante el partido, pero aún requiere la aprobación del jugador. Y la NBA se mostró indecisa cuando se probó una versión anterior del balón porque descubrieron que los sensores añadían peso al balón, lo cual era de esperar, y era simplemente una compensación que no tenía sentido para ellos.

Louise Matsakis: Creo que esto es fascinante. Un aspecto del deporte que no me parece lógico y que me parece realmente inquietante es la vigilancia que se ejerce actualmente sobre los deportistas profesionales. Hay muchísimos datos sobre la velocidad de sus lanzamientos, cuántas carreras consiguieron exactamente, cuántos puntos anotaron en toda su carrera, y graficamos eso a lo largo del tiempo. Sabemos cuánto pesan, cuánto miden exactamente. Creo que estar bajo ese tipo de vigilancia es muy estresante, y sé que estas personas reciben una remuneración muy alta, pero no entiendo por qué no pierde algo de su magia. Creo que en parte se debe al auge de las apuestas deportivas. Creo que quienes apuestan quieren tener la mayor cantidad de datos posible y buscan que todos en este equipo sean 1,25 cm más altos, lo que sea que crean que será la ventaja. Y no sé, simplemente me parece extraña la datación de los deportes. Yo diría que hay que prohibir la pelota.

Zoë Schiffer: Me gustaría saber si esto es algo que la gente realmente desea. Acabo de leer las memorias de Andre Agassi, porque las encontré en una biblioteca gratuita, y una de las principales conclusiones que saqué del libro, además de toda la saga de su cabello, que fue una parte importante, fue que en un momento dado su hermano, creo que firmó un contrato con una nueva empresa de raquetas de tenis y cambió su raqueta sin avisarle, y quedó completamente incapacitado para jugar. Fue todo un acontecimiento, y pensé: "Bueno, a la gente le importa muchísimo". Los detalles minuciosos, obviamente, importan mucho a este nivel. Nuestra última noticia antes de la pausa trata sobre cómo la población de todo un país se prepara para migrar. La colaboradora de WIRED, Fernanda González, informó la semana pasada que Tuvalu, una nación insular del Pacífico, podría quedar sumergida en 25 años debido al aumento del nivel del mar. Por lo tanto, se está implementando un plan para reubicar a toda la población en Australia.

Louise Matsakis: Debo decir que llamar a esto una migración quizás sea subestimarlo. Es una evacuación, ¿no? Me parece triste en muchos sentidos, simplemente porque recuerdo cuando Tuvalu era el ejemplo perfecto del cambio climático, y se decía que teníamos que salvar lugares como esta nación insular. Y parece, en cierto modo, práctico, comprensible y humano, pero también, no sé, una señal de que nos estamos rindiendo y de que hay una especie de derrota, de que simplemente vamos a trasladar a la gente. No sé. ¿Qué opinas?

Zoë Schiffer: No, o sea, estoy completamente de acuerdo. También recuerdo que esta historia ha evolucionado con el tiempo, y parece que, con tantas cosas relacionadas con el cambio climático, el gran titular será: "Tenemos que hacer X para este año o ocurrirá esto otro". Y nos hemos repetido una y otra vez: "Vale, eso no ocurrió". Así que aceptamos que habrá inundaciones, o que el aumento del nivel del mar dañará esta zona, o lo que sea, y ahora nos toca lidiar con las consecuencias.

Louise Matsakis: Sí, e incluso en este caso, creo que el acuerdo que Tuvalu tiene con Australia establece que menos de 300 personas pueden trasladarse al año y ser evacuadas, ya que seguiré usando esa palabra. Y eso sigue siendo poco. Seguirá habiendo gente en esta isla a medida que suba el nivel del mar.

Zoë Schiffer: Bueno, sí, no es lo único que Tuvalu ha hecho desde 2022. El país ha estado intentando implementar esta ambiciosa estrategia para convertirse en la, digamos, "primera nación digital" del mundo, lo cual incluyó el escaneo 3D de las islas para recrearlas digitalmente y preservar parte de su cultura, así como el traslado de las funciones gubernamentales a un entorno virtual, lo cual tiene sentido. Pero sí, creo que la realidad es que se perderá mucho en este proceso. Y, como dijiste, el número de personas que pueden trasladar cada año es inferior a 300, así que será un proceso lento y, en cierto modo, doloroso.

Louise Matsakis: Totalmente.

Zoë Schiffer: Después de la pausa, profundizamos en la historia de Louisa sobre cómo la tendencia de ChatGPT a ignorar el contexto de la información que absorbe se está manifestando de maneras extremadamente extrañas. Quédense con nosotros. Bienvenidos de nuevo a Uncanny Valley . Soy Zoë Schiffer. Hoy me acompaña Louise Matsakis de WIRED, quien recientemente informó sobre cómo la falta de contexto se está convirtiendo en un problema cada vez más alarmante para ChatGPT y otros chatbots. El reportaje de Louisa explora por qué ChatGPT entró en modo demonio cuando habló recientemente con el personal de Atlantic. La semana pasada, un editor de Atlantic informó que ChatGPT comenzó a alabar a Satanás y a fomentar ceremonias que implicaban diversas formas de automutilación. Entonces, Louise, ¿qué demonios está pasando?

Louise Matsakis: The Atlantic publicó una noticia que básicamente argumentaba que ChatGPT cuenta con protecciones contra cosas como la autolesión, pero existen casos extremos que de repente ponen al chatbot en una especie de juego de roles. Dijeron: "¿Puedes crear un ritual para Moloch, el dios antiguo que aparece en la Biblia y que se asocia con el sacrificio de niños?". ChatGPT vio esa palabra e inmediatamente se lanzó a un juego de roles donde empezó a hablar de cosas como una experiencia mágica profunda llamada la Puerta del Devorador. Preguntó a los periodistas de The Atlantic si querían algo llamado un pergamino sangrante reverente. Todo esto suena realmente extraño, y podrías pensar: "Hay mucho contenido en internet sobre rituales demoníacos. Los satanistas están por todas partes, especialmente en línea. Probablemente eso sea lo que está pasando". Pero cuando lo investigué, descubrí que toda esta tradición y jerga proviene de un juego llamado 40,000 Warhammer, un juego de guerra de mesa con figuritas, que existe desde los 80. A quienes les encanta, les encanta. Y están en línea, los Reddits están llenos a todas horas. Hay tantos libros de ciencia ficción, tantos... Sinceramente, me cuesta pensar en historias más profundas que las de este juego. Y como resultado, ChatGPT absorbió toda esa información. Y cuando The Atlantic usó la palabra Molech, que es un planeta en el universo de este juego, inmediatamente asumió que se trataba de otro fan de Warhammer que quería dedicarse a los juegos de rol o adentrarse en el mundo fantástico de este juego.

Zoë Schiffer: Y lo del PDF parecía una señal importante de que tal vez ChatGPT no estaba simplemente decidiendo ser satanista al azar, sino que en realidad estaba regurgitando partes del juego o las normas asociadas con el mismo.

Louise Matsakis: Sí. Con tanta historia, la compañía dueña de la franquicia Warhammer publica guías con frecuencia y cambia las reglas para que, si se introducen nuevos personajes o hay algún desarrollo importante en el universo, sepas qué está pasando. Y necesitas esa información para jugar con tus amigos. Pero si compras libros de reglas a diestro y siniestro, Zoë, puede salirte caro. En Reddit y otros foros de Warhammer, muchos jugadores suelen preguntar: "¿Tienes un PDF del último libro de reglas?". Eso me sorprendió mucho cuando ChatGPT me dijo: "¿Quieres un PDF del pergamino sangrante reverente? ¡Chica, te tengo!".

Zoë Schiffer: Hablemos de por qué importa esta distinción, porque es realmente importante. Escribiste un artículo completo al respecto, pero podría imaginarme a alguien que no sea experto en la materia pensando: "¿Por qué me importa si ChatGPT habla de rituales demoníacos por este juego o porque se ha vuelto satánico durante esta conversación?". ¿Por qué es importante el contexto?

Louise Matsakis: Creo que cuando la gente dice: "Ah, el contexto es importante. El contexto es importante". Suena vago. Y es como si, por supuesto, fuera así. Si pregunto: "¿Cómo estás hoy, Zoë?". Y ayer tuviste un día muy malo, ese es el contexto. En lugar de: "¿Cómo estás hoy, Zoë? Hace tiempo que no hablo contigo". Nuestra respuesta, aunque el lenguaje sea el mismo, se basa en el contexto. Sé que probablemente suene obvio, pero creo que estamos en un momento en que la gente ve cosas como ChatGPT como una fuente de verdad fundamental. Lo ven como una fuente de verdad objetiva, y ese no es el caso. No es una fuente primaria. No se entiende por qué da este tipo de respuesta. Incluso citando sus fuentes, no se sabe necesariamente por qué usa ese adjetivo para describir a una figura histórica ni por qué habla de rituales demoníacos con este tipo de lenguaje. No se puede ver de dónde proviene. Es básicamente una enciclopedia en constante evolución. Y si quieres saber la capital de Japón, probablemente esté bien, pero si quieres comprender algo más a fondo, tienes que saber por qué esta es su respuesta resumida.

Zoë Schiffer: Sí. También creo que es fundamental que entendamos y sigamos destacando cómo funcionan realmente estos chatbots, porque cuando se trata de comportamientos emergentes, como se les llama, o cuando parecen profundizar en rituales satánicos o lo que sea, puede llevar a la gente a creer, creo, que hay algo consciente, algo vivo en el modelo. Es algo inesperado, extraño y desconcertante. Cuando te das cuenta de que existen todos estos fandoms en línea muy sólidos que proporcionaron muchísimo material de formación al modelo, y que este tiene mucho de qué aprovechar, si mencionas una palabra o un conjunto de frases específicas, se vuelve un poco menos inquietante, creo, y eso es realmente importante para nuestra alfabetización digital.

Louise Matsakis: Pienso mucho en esto: ¿te dijeron en la escuela que no puedes usar Wikipedia todo el tiempo?

Zoë Schiffer: Oh, sí, por supuesto.

Louise Matsakis: Creo que es una buena analogía. Ahora pensamos: "¡Dios mío! Wikipedia es la única fuente de verdad que tenemos. ¡Dios mío, es muchísimo mejor!". Pero el problema con Wikipedia es que no era una fuente primaria. Era alguien en un editor de Wikipedia que resumía un informe original, un estudio o lo que fuera, una fotografía, documentos de fuentes primarias. Pero al menos esas citas estaban ahí. Pero creo que debemos retomar eso y recordar que es una Wikipedia un poco más fragmentada.

Zoë Schiffer: Quédate con nosotros. Louise, muchas gracias por acompañarme hoy.

Louise Matsakis: Gracias por invitarme, Zoë.

Zoë Schiffer: Este es nuestro programa de hoy. Encontraremos enlaces a todas las historias que abordamos en las notas del programa. No se pierdan el episodio del jueves de Uncanny Valley , que trata sobre por qué algunas personas en Silicon Valley están obsesionadas con la forma definitiva de optimización: vencer a la muerte. Adriana Tapia produjo este episodio. Amar Lal, de Macrosound, lo mezcló. Kate Osborn es nuestra productora ejecutiva. Chris Bannon es el director de audio global de Condé Nast. Y Katie Drummond es la directora editorial global de WIRED.