“I “Espero no tener que cubrir a Elon Musk nuevamente por un tiempo”, pensé la semana pasada después de enviar TechScape a los lectores. Luego recibí un mensaje del editor de noticias: “¿Puedes estar atento al feed de Twitter de Elon Musk esta semana?”
Terminé leyendo atentamente al adicto a las publicaciones más poderoso del mundo, y mi cerebro se convirtió en líquido y se escapó por mis oídos:
Su descanso nocturno más corto, el sábado por la noche, lo vio desconectarse después de retuitear un meme que comparaba la fuerza policial metropolitana de Londres con las SS nazis, antes de volver a conectarse cuatro horas y media después para retuitear a un influencer criptográfico quejándose de las penas de cárcel para los británicos que asisten a las protestas.
Pero de alguna manera me sorprendió lo que encontré. Conocía los contornos generales de la presencia de Musk en Internet por haberlo cubierto durante años: una triple división entre la promoción de sus negocios reales, Tesla y SpaceX; la entusiasta retransmisión de humor nerd de bajo coste; y una agitación política cada vez más derechista.
Sin embargo, seguir a Musk en tiempo real reveló cómo su modo caótico se ha visto distorsionado por su giro hacia la derecha. Su promoción de Tesla está cada vez más influida por la guerra cultural, y la Cybertruck en particular se promociona con un lenguaje que hace parecer que comprar una ayudará a derrotar a los demócratas en las elecciones presidenciales de Estados Unidos de noviembre. El humor nerd de bajo presupuesto mencionado anteriormente está teñido de ira contra el mundo por no pensar que él es la persona más genial del mundo. Y la agitación política de derecha es cada vez más extrema.
La implicación de Musk en los disturbios en el Reino Unido parece haberlo empujado más que nunca a los brazos de la extrema derecha. Este mes, ha tuiteado por primera vez a Lauren Southern, una personalidad canadiense de Internet de extrema derecha que es más famosa en el Reino Unido por haber conseguido que el gobierno de Theresa May le prohibiera obtener una visa por su islamofobia. Más que un simple tuit: también la apoya económicamente, enviándole alrededor de 5 libras al mes a través de la función de suscripción de Twitter. Luego estuvo el retuit que atrajo los titulares de la colíder de Britain First. Por sí solo, podría haberse atribuido a que Musk no sabía en qué estanque estaba nadando; dos semanas después, el patrón es más claro. Ahora, esta es su gente.
Bueno, entonces está bien.
Un claro ejemplo de la diferencia entre comunicados de prensa científicos y artículos científicos, hoy del mundo de la IA. El comunicado de prensa de la Universidad de Bath:
La IA no supone una amenaza existencial para la humanidad, según un nuevo estudio.
Los estudiantes con un título de maestría en derecho tienen una capacidad superficial para seguir instrucciones y se destacan por su dominio del idioma, pero no tienen potencial para dominar nuevas habilidades sin instrucción explícita. Esto significa que siguen siendo inherentemente controlables, predecibles y seguros.
Esto significa que siguen siendo inherentemente controlables, predecibles y seguros.
El papel, from Lu et al:
Se ha afirmado que los grandes modelos lingüísticos, que comprenden miles de millones de parámetros y que han sido entrenados previamente en extensos corpus a escala web, adquieren ciertas capacidades sin haber sido entrenados específicamente en ellas… Presentamos una nueva teoría que explica las habilidades emergentes, teniendo en cuenta sus posibles factores de confusión, y corroboramos rigurosamente esta teoría a través de más de 1000 experimentos. Nuestros hallazgos sugieren que las supuestas habilidades emergentes no son realmente emergentes, sino que resultan de una combinación de aprendizaje en contexto, memoria de modelos y conocimiento lingüístico.
Nuestro trabajo es un paso fundamental para explicar el rendimiento de los modelos lingüísticos, ya que proporciona un modelo para su uso eficiente y aclara la paradoja de su capacidad de sobresalir en algunos casos y fallar en otros. De esta manera, demostramos que sus capacidades no deben sobreestimarse.
La versión del comunicado de prensa de esta historia se ha vuelto viral, por razones predecibles: a todos les gusta ver a los titanes de Silicon Valley derrotados, y el riesgo existencial de la IA se ha convertido en un tema divisivo en los últimos años.
Pero el artículo está muy lejos de la afirmación que la oficina de prensa de la universidad quiere hacer sobre él, lo cual es una pena, porque lo que dice el artículo hace El programa es interesante e importante de todos modos. Se hace mucho hincapié en las denominadas capacidades “emergentes” con modelos de frontera: tareas y capacidades que no existían en los datos de entrenamiento pero que el sistema de IA demuestra en la práctica.
Esas capacidades emergentes son preocupantes para quienes se preocupan por el riesgo existencial, porque sugieren que la seguridad de la IA es más difícil de garantizar de lo que nos gustaría. Si una IA puede hacer algo para lo que no ha sido entrenada, entonces no hay una manera fácil de garantizar que un futuro sistema de IA sea seguro: se pueden dejar cosas fuera de los datos de entrenamiento, pero es posible que descubra cómo hacerlas de todos modos.
El artículo demuestra que, al menos en algunas situaciones, esas habilidades emergentes no son nada de eso. En cambio, son el resultado de lo que sucede cuando se toma un LLM como GPT y se le da la forma de un chatbot, antes de pedirle que resuelva problemas en forma de una conversación de preguntas y respuestas. Ese proceso, sugiere el artículo, significa que al chatbot nunca se le pueden dar preguntas de “cero posibilidades”, para las que no tiene entrenamiento previo: el arte de incitar a ChatGPT es inherentemente el de enseñarle un poco sobre qué forma debe adoptar la respuesta.
Es un hallazgo interesante. No demuestra que el apocalipsis de la IA sea imposible, pero, si quieres buenas noticias, sugiere que es poco probable que suceda mañana.
Después de la promoción del boletín
Dolores de entrenamiento
Nvidia utilizó YouTube para entrenar sus sistemas de inteligencia artificial. Ahora eso está volviendo a morder.:
Una demanda federal alega que Nvidia, que se centra en el diseño de chips para inteligencia artificial, tomó los videos del creador de YouTube David Millette para su trabajo de entrenamiento de inteligencia artificial. La demanda acusa a Nvidia de “enriquecimiento injusto y competencia desleal” y busca que se le conceda el estatus de demanda colectiva para incluir a otros creadores de contenido de YouTube con reclamos similares.
Nvidia “extrajo” ilegalmente vídeos de YouTube para entrenar su software Cosmos AI, según la demanda, presentada el miércoles en el Distrito Norte de California. Nvidia utilizó software en servidores comerciales para evadir la detección de YouTube y descargar “aproximadamente 80 años de contenido de vídeo por día”, dice la demanda, citando un comunicado del 5 de agosto. Informe de prensa 404.
Esta demanda es inusual en el mundo de la IA, aunque más no sea porque Nvidia se mostró un poco reservada en cuanto a las fuentes de sus datos de entrenamiento. La mayoría de las empresas de IA que han enfrentado demandas judiciales han sido orgullosamente abiertas en cuanto a su indiferencia hacia las limitaciones de los derechos de autor. Tomemos como ejemplo Stable Diffusion, que obtuvo sus datos de entrenamiento del conjunto de datos de código abierto LAION. Bien:
(El juez) Orrick encontró Los artistas habían argumentado razonablemente que las empresas violan sus derechos al almacenar ilegalmente sus obras y que Stable Diffusion, el generador de imágenes de IA en cuestión, puede haber sido construido “en gran medida sobre obras protegidas por derechos de autor” y fue “creado para facilitar esa infracción por diseño”.
Por supuesto, no todas las empresas de inteligencia artificial juegan en igualdad de condiciones. Google tiene una ventaja única: todo el mundo le da su consentimiento para entrenar su inteligencia artificial con su material. ¿Por qué? Porque de lo contrario, te expulsarán de la búsqueda por completo.:
Muchos propietarios de sitios dicen que no pueden permitirse el lujo de bloquear la inteligencia artificial de Google para que no resuma su contenido.
Esto se debe a que la herramienta de Google que examina el contenido web para obtener respuestas de inteligencia artificial es la misma que realiza un seguimiento de las páginas web para obtener resultados de búsqueda, según los editores. Bloquear Google de Alphabet Inc. de la misma manera que los sitios han bloqueado a algunos de sus competidores de inteligencia artificial también obstaculizaría la capacidad de un sitio para ser descubierto en línea.
Pregúntame cualquier cosa
Una nota más, autocomplaciente. Después de 11 años, dejaré el Guardian a fines de este mes, y el 2 de septiembre será mi último TechScape. Responderé preguntas de los lectores, grandes y pequeñas, mientras me despido, así que si hay algo sobre lo que alguna vez quisiste una respuesta, desde recomendaciones tecnológicas hasta chismes de la industria, entonces haz clic en responder y envíame un correo electrónico.
Si desea leer la versión completa del boletín suscríbase para recibir TechScape en su bandeja de entrada todos los martes.