Microsoft

Las mentes líderes en inteligencia artificial están planteando preocupaciones sobre la misma tecnología que están creando.

"A medida que avanza esta tecnología, entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también lo estamos", dice Sam Altman.

Dos de las compañías tecnológicas más grandes del mundo, Microsoft y Google, advierten sobre los peligros del desarrollo de IA no regulado. Al mismo tiempo, compiten entre sí para llevar la IA a sus productos más populares.

"Esta tecnología no tiene la complejidad de la comprensión humana, pero nos afectará profundamente en la forma en que se implemente en el mundo", dice Sarah Myers West.

Entonces, ¿cómo podría eso cambiarnos?

Hoy, en el punto: la guerra de IA entre Microsoft y Google.

Dina Bass, reportera de tecnología e inteligencia artificial de Bloomberg News.

Will Knight, escritor sénior de WIRED, que cubre la inteligencia artificial.

Sarah Myers West, directora gerente del AI Now Institute, que estudia las implicaciones sociales de la inteligencia artificial.

MEGHNA CHAKRABARTI: Aquí viene otra carta abierta del mundo de los desarrolladores de IA advirtiendo sobre la IA que están desarrollando. Aunque esta es menos una declaración y más una sola oración.

"Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear".

CHAKRABARTI: La declaración está organizada por el Centro para la Seguridad de la IA y firmada por políticos y científicos, incluidos investigadores a la vanguardia de la tecnología de IA. Entonces, en primer lugar, cuando los tecnólogos piden una regulación literalmente y repetidamente, nosotros, el público y nuestros representantes políticos debemos escucharlos y hacer algo al respecto porque dicen que no pueden autorregularse.

Y cuando se trata de tecnología que cambia la civilización, probablemente no se debería confiar en la gente de tecnología para autorregularse. Porque son los ciudadanos, la civilización, es decir, el resto de la humanidad, quienes deben opinar sobre cómo se debe cambiar esa misma civilización. O al menos eso creo.

El mundo de la tecnología también dice que no se autorregulará. Porque hay más que un poco de conversación de ambos lados de la boca, ¿no es así? Por un lado, el CEO de Google DeepMind, Demis Hassabis, y el director científico de Microsoft, Eric Horvitz, se encuentran entre los firmantes de las cartas de advertencia. Por otro lado.

SATYA NADELLA: La era de la IA está sobre nosotros y Microsoft la impulsa.

CHAKRABARTI: Ese es el director ejecutivo de Microsoft, Satya Nadella, quien anunció a principios de este año que incluso cuando su empresa advierte sobre los peligros de la IA no regulada, su empresa también está impulsando nuevas tecnologías de IA en casi todos los aspectos del alcance masivo de los productos de Microsoft.

NADELLA: Estamos siendo testigos de mejoras no lineales en la capacidad de los modelos de base, que estamos poniendo a disposición como plataformas. Y a medida que los clientes seleccionan sus proveedores de nube e invierten en nuevas cargas de trabajo, estamos bien posicionados para aprovechar esa oportunidad como líder en IA.

CHAKRABARTI: Por ejemplo, Microsoft ahora tiene una herramienta de inteligencia artificial generativa en su motor de búsqueda Bing. Para no quedarse atrás, Google, también signatario de esa carta de advertencia, está presionando con fuerza hacia la IA generativa. El CEO de Google, Sundar Pichai, le dijo a 60 Minutes de CBS:

SUDAR PICHAI: Esto tendrá un impacto en todos los productos de todas las empresas. Y por eso creo que es una tecnología muy, muy profunda. Y así estamos en los primeros días.

CHAKRABARTI: Y apenas el mes pasado, la vicepresidenta de ingeniería de Google, Cathy Edwards, anunció que la compañía está implementando IA generativa en el motor de búsqueda más popular del mundo. Búsqueda de Google, que tiene el 80% de la cuota de mercado de búsqueda global, 99.000 búsquedas por segundo, más de ocho mil quinientos millones de búsquedas cada día.

CATHY EDWARDS: Estas nuevas capacidades generativas de IA harán que la búsqueda sea más inteligente y sencilla. Y como has visto, esto es especialmente útil cuando necesitas dar sentido a algo complejo con múltiples ángulos para explorar. Ya sabes, esos momentos en los que incluso tu pregunta tiene preguntas.

CHAKRABARTI: Google, Microsoft y AI. Estas dos empresas son tan grandes, tan importantes, que su impulso público casi simultáneo hacia la IA generativa se denomina Guerra de IA entre Microsoft y Google. Y eso, por supuesto, plantea la pregunta de cómo te afectará esta guerra a ti y a todos los demás seres humanos. Bueno, ahora nos acompaña Dina Bass. Es técnica y reportera de Bloomberg News, cubrió Microsoft durante 20 años y se une a nosotros desde Seattle. Dina, bienvenida de nuevo al espectáculo.

EN BAJO: Hola, Meghna.

CHAKRABARTI: Hoy también está con nosotros Will Knight. Es un escritor sénior de WIRED que cubre la inteligencia artificial y se une a nosotros aquí en el estudio. Bienvenido a On Point.

WILL KNIGHT: Hola. Gracias por invitarme.

CHAKRABARTI: Entonces, antes que nada, solo quiero que ustedes dos tengan una idea de si este marco de la guerra de Google Microsoft AI es preciso, porque desde el exterior parece significativo que al menos en la búsqueda, nosotros tengo estos, ya sabes, dos anuncios casi simultáneos de estas dos empresas. Entonces, Dina, ¿es esta una gran guerra entre los dos?

BASS: Definitivamente hay una fuerte competencia entre los dos. Creo que el tipo de mago detrás de la cortina que estás dejando aquí es Open AI, que básicamente la tecnología de Microsoft en su corazón es la tecnología de OpenAI. Lo que estamos viendo es que Microsoft adopte IA abierta... tecnología de generación de imágenes y lenguaje. También escribe código en cada uno de sus productos.

Y debido a que Microsoft fue un poco más rápido en sacar algunas de estas cosas, pareció poner a Google un poco en la retaguardia, a pesar de que muchas de estas tecnologías en realidad fueron inventadas y promovidas por Google. Y, como resultado, se ha convertido en una especie de, ya sabes, Google tratando de atrapar a Microsoft a pesar de que es temprano.

Pero creo que eso también deja fuera a muchas otras empresas, muchas otras empresas emergentes, mucho trabajo de código abierto que puede terminar superando a ambas. Ya sabes, hubo un memorando filtrado hace un par de semanas de un ingeniero de Google que decía que tanto OpenAI como Google no tienen foso y serán superados por el trabajo de código abierto. Así que el encuadre es correcto. Pero también hay mucho más en juego.

CHAKRABARTI: Bien. Llegaremos a eso. Veremos mucho más de lo que sucede en unos minutos. Pero debo decir que, dado el alcance y el tamaño de estas dos empresas, quiero centrarme un poco más en cómo su impulso hacia la IA y específicamente la IA generativa nos afectará a todos. Will, la misma pregunta para ti. Quiero decir, ¿es este un nuevo frente en la competencia de un año entre Microsoft y Google?

KNIGHT: Yo diría que sí, absolutamente. Quiero decir, como dice Dina, esta es definitivamente una nueva era de competencia entre los dos, impulsada por lo que es un avance bastante profundo en algunas de las capacidades de la IA lideradas por estos modelos como GPT. Y todavía hay toneladas y toneladas de limitaciones.

Pero cada vez que hay un gran cambio tecnológico, lo hemos visto antes con Internet, con los dispositivos móviles. Las grandes empresas ven una oportunidad de adelantarse unas a otras y tal vez también preocuparse por quedarse atrás.

CHAKRABARTI: Ahora escuchamos tanto a Sundar Pichai como a Satya Nadella. Los directores ejecutivos de ambas empresas dicen que esencialmente eso va a transformar todo lo que hacen. Cuando un CEO dice eso, tiendo a creerle. Pero Will, quiero decir, ¿ves lo mismo que va a transformar Microsoft y Google? Tal vez no como lo conocemos, pero ¿cómo operan y qué hacen?

KNIGHT: Creo absolutamente. Quiero decir, ya sabes, también deberíamos, ya sabes, deberíamos tener cuidado de que haya limitaciones. Esta tecnología se está precipitando hacia fuera muy rápidamente. Hay problemas con eso. Pero lo veo como algo tan fundamental como el software. Y lo hemos visto con la era anterior de la IA. El aprendizaje automático ha transformado tantos productos, tantas empresas. Y lo que esto es, es una especie de cambio radical, realmente un cambio bastante significativo, en lo que potencialmente puede hacer con el aprendizaje automático.

Lo estamos viendo principalmente en estos bots de chat y generación de imágenes, pero representa una especie de nuevo conjunto de capacidades que puede brindar a las computadoras. Y son de propósito muy general. Así que sí, creo que van a intentar aplicarlo en todas partes. Puede haber muchos problemas en el camino.

CHAKRABARTI: De acuerdo, Dina, entonces lo que es realmente fascinante para mí es, ya sabes, pisándole los talones a ChatGPT, uno de los primeros tipos de puntos públicos de acceso que la gente tiene para el uso de la IA generativa de Microsoft y Google es a través de la búsqueda. ¿Bien? Y al igual que las búsquedas, literalmente todo el mundo usa la búsqueda todo el tiempo, todos los días. ¿Ha utilizado la búsqueda impulsada por IA en Bing?

BASS: Sí, y es interesante que lo señale porque, hasta hace un par de meses, la búsqueda era realmente un rincón soñoliento de Internet en términos de competencia. Quiero decir, de hecho, no puedo imaginar que pensaras que estaríamos hablando de Microsoft y Google volviendo a pelear la batalla de búsqueda que Microsoft esencialmente perdió hace diez años. Quiero decir, esta no es un área que pensáramos que estaba madura para la innovación. lo he usado

Es mucho mejor con preguntas abiertas similares a ChatGPT. Puede, ya sabes, generar contenido, contenido divertido, recetas, listas de compras, pero también responder preguntas más abiertas. Si está tratando de averiguar qué productos comprar o dónde viajar.

Pero como señala Will, comete muchos errores, ambas compañías están tratando de evitar eso al tener citas, puede hacer clic y ver de dónde provienen los datos y detectar el error. Simplemente no sé si los usuarios van a hacer eso. El término artístico para estos errores, entre comillas, es alucinaciones. Eso es lo que parece ser. Parece ser un eufemismo para, si puedo poner esto cortésmente en la jerga de la radio, inventar cosas. Así que eso sigue siendo un problema.

CHAKRABARTI: ¿Están listos para una demostración en vivo?

¿Deberíamos probar esto? Porque tengo Microsoft Edge abierto aquí frente a mí, que, por cierto, curiosamente, si tengo este derecho, no puedes usar la búsqueda impulsada por Bing AI en ningún otro navegador.

… Así que lo tengo aquí. Abre frente a mí. No tengo idea de lo que va a pasar. Bueno, en cierto modo sí, porque ya he hecho esta pregunta antes, pero es mi pregunta favorita para los viajes de verano. Y es lo suficientemente abierto. Dina, voy a pedir la búsqueda de Bing AI. ¿Por qué los viajes en avión son tan horribles? ¿Eso es lo suficientemente abierto, Dina?

BAJO: Claro.

CHAKRABARTI: Bien, aquí, entra. Y está pensando. Oh, no es tan rápido, ¿de acuerdo? Todavía va. ¿Eso es normal? Sí.

KNIGHT: Bueno, lo que se está ejecutando en el back-end es una red neuronal gigante que está tratando de dar con la respuesta. Así que es bastante diferente a una búsqueda regular.

CHAKRABARTI: Ah, está bien. Aquí viene con la respuesta. Guau. Es una respuesta larga. Dice que hay varias razones por las que viajar en avión puede ser desagradable. Según un artículo de negocios de CNN, alguna de las razones incluye la falta de suficientes pilotos y auxiliares de vuelo. De acuerdo, eso es cierto, especialmente en el frente del piloto. Había escasez de pilotos.

Preocupaciones sobre las reglas de vacunas, menos asientos, aumento de tarifas más altas, número de pasajeros indisciplinados e infelices. Luego cita Investopedia y un artículo de Time sobre el dolor inducido por la pandemia después de que la industria de las aerolíneas se detuviera y ahora está luchando para ponerse al día con la creciente demanda. Espero que esto ayude. Bueno. Ahora, si no supiera nada sobre la industria de las aerolíneas, diría que estas respuestas tienen sentido. Pero está dejando de lado causas masivas, masivas.

KNIGHT: … Lo que está haciendo es tomar una gran cantidad de cosas de la web y luego tratar de adivinar cuál sería una respuesta plausible, no necesariamente la respuesta correcta.

CHAKRABARTI: … ¿Tiene alguna preocupación acerca de que estos productos se implementen tan rápido como lo son para que todos los usen?

BASS: Damas y caballeros, deben tener en cuenta que ustedes son los probadores beta. Esto se está experimentando contigo. Las empresas te dirán que eso es necesario, que para refinarlo, para que funcione bien, necesitan grandes volúmenes de datos.

CHAKRABARTI: En este momento, le estoy preguntando a la nueva búsqueda impulsada por inteligencia artificial de Microsoft. ¿Deberías escuchar el increíble programa de radio y podcast llamado On Point de WBUR? Tengo un poco de miedo de presionar enter pero lo haré, y estamos hablando de la guerra de IA entre Microsoft y Google, ya que estas dos grandes compañías comienzan a implementar tecnologías de IA generativa en sus productos. Oh mira. Respondió, dijo:

Sí. On Point es un programa de radio y podcast producido por WBUR en Boston. Cubre una amplia gama de temas, desde la economía y el cuidado de la salud hasta la política y el medio ambiente. El programa habla con los creadores de noticias y la gente común sobre los temas que más importan.

Así que no hay alucinaciones allí. Bueno. Pero en términos de la importancia de la IA para empresas como Microsoft y Google y, por lo tanto, para nosotros como usuarios de su tecnología. Esto es lo que dijo el CEO de Google, Sundar Pichai, a CBS 60 Minutes.

PICHAI: Siempre he pensado en la IA como la tecnología más profunda en la que trabaja la humanidad, más profunda que el fuego o la electricidad o cualquier cosa que hayamos hecho en el pasado. ¿Porque? Llega a la esencia de lo que es la inteligencia, lo que es la humanidad. Ya sabes, estamos desarrollando tecnología que seguramente algún día será mucho más capaz que cualquier cosa que hayamos visto antes.

CHAKRABARTI: Y aquí está el CEO de Microsoft, Satya Nadella, en una conversación el mes pasado con Andrew Ross Sorkin hablando sobre el hecho de que está de acuerdo en que la IA podría estar moviéndose, entre comillas, demasiado rápido, pero no en la forma en que algunas personas piensan.

NADELLA: Mucha tecnología, mucha IA ya está disponible a escala, ¿verdad? Cada fuente de noticias, cada tipo de búsqueda de fuentes de redes sociales como las conocemos antes... todas están en IA. Y en todo caso, las cajas negras, las describiría como la era del piloto automático. Entonces, de una manera interesante, estamos pasando de la era del piloto automático de la IA a la era del copiloto de la IA. Entonces, en todo caso, siento que sí, se está moviendo rápido, pero se está moviendo rápido en la dirección correcta.

CHAKRABARTI: Hablamos mucho sobre una especie de Microsoft. Pero quiero cambiar rápidamente a Google. ¿Puedes describirlo? He sentido que han estado entre los dos más o menos a la cabeza en IA, si esa es una declaración precisa durante bastante tiempo.

CABALLERO: Sí, absolutamente. Inventaron muchas de las cosas que han llevado a algunos de estos avances, pero dudaron en lanzar algunas cosas porque podrían comportarse mal, lo que estamos viendo ahora. Y entonces quedaron un poco sorprendidos por lo que Microsoft, OpenAI, está haciendo al lanzar algunos de estos grandes modelos de lenguaje y, ya sabes, mostrar lo que podrías hacer potencialmente con la búsqueda.

Y entonces hubo un gran pánico dentro de Google, al parecer, donde de repente estaban como, tenemos que ponernos al día. Tenemos que tirar todo a esto. Han fusionado sus dos unidades de IA diferentes, Google y DeepMind. Y ahora Demis Hassabis, como mencionaste, es el líder de ambos. Y este es uno de esos grandes momentos como la ola de Internet de la que Bill Gates habló hace años, donde de repente se dieron cuenta de que tenemos que ponernos al día.

CHAKRABARTI: Vi una historia en The New York Times que decía, ya sabes, había memorandos, creo, circulando. No recuerdo si fue dentro de Google o Microsoft. Pero eso decía que, ya sabes, esta carrera podría ganarse o perderse en cuestión de semanas.

BASS: Podría haber sido Google. Eso no es lo que escucho de Microsoft. Es críticamente, en todo caso, y tal vez sea porque sienten que están a la cabeza. Cuando le pregunté a Satya Nadella que se había centrado mucho en que esto fuera una ventaja inicial, no permanente. Ser muy consciente del hecho de que muchos mercados están siendo interrumpidos, incluidos algunos de los que Microsoft necesita.

Y, ya sabes, nos enfocamos mucho aquí en el chat, pero uno de los otros vectores principales para agregar IA y para la competencia en torno a eso será nuevamente el software de oficina entre Microsoft y Google. Una cosa es que Microsoft experimente con Bing, que tiene alrededor del 2% del mercado. Otra cosa es que comiencen a incluir importantes asistentes de IA en sus productos de oficina, que son, ya saben, productos dominantes emblemáticos, y lo están haciendo, aunque implementándolo con un poco más de cuidado y un poco más lento que quizás el Cosas de Bing.

CHAKRABARTI: Está bien. Así se acabaron los días de Clippy, es lo que estás diciendo.

BASS: Tal vez este también sea Clippy. Quiero decir, había un meme dando vueltas. Creo que probablemente fue alrededor del 4 de mayo... fue algo así como, ya sabes, Clippy, soy tu padre, una especie de meme relacionado con Bing. Quiero decir, esto es lo que en algún nivel, esto es un cumplimiento de lo que Microsoft quería hacer con Clippy y lo que quería hacer alrededor de 2016 con su tipo de estrategia de IA conversacional que implementaron que realmente no llegó a ninguna parte en el tiempo porque la tecnología no era muy buena entonces.

CHAKRABARTI: Está bien. Bueno, muy bien. Volviendo por un momento al memorando que estaba citando, tengo la historia aquí del New York Times. Y dicen que Sam Schillace, ejecutivo de tecnología de Microsoft, había escrito en un correo electrónico interno, que The Times dice que ha visto. Y en ese correo electrónico, Schillace dijo que era absolutamente, entre comillas, un error absolutamente fatal en este momento preocuparse por las cosas que se pueden solucionar más adelante.

Y ese cambio repentino hacia un nuevo tipo de tecnología fue esencial porque, como escribió Schillace en este memorando, nuevamente, visto por The New York Times, la primera empresa en introducir un producto es la ganadora a largo plazo. Solo porque empezaron primero. A veces la diferencia se mide en semanas. Dina, ya que eres la que cubre Microsoft directamente, ¿qué te parece?

BASS: Mira, obviamente, Microsoft se está moviendo muy rápido aquí. Y quiero decir, no ha pasado una semana sin que presenten un nuevo producto de IA. Y eso plantea la pregunta con la que comenzaste el programa, si están tan preocupados por los impactos que esto podría tener, ¿por qué continuar desarrollándolo a gran velocidad?

Sabes, sabemos que la compañía se ha estado moviendo muy rápido, ya sabes, para tratar de sacar estas cosas. Pero, de nuevo, lo que escucho de ellos es que no creen que el hecho de que hayan introducido las cosas primero signifique que son los ganadores. Sienten que hay mucho potencial para la disrupción aquí. Y, ya sabes, mencionamos la oficina. También hay problemas de interrupción en torno a la nube.

CHAKRABARTI: Alrededor de la nube. Bueno. Así que agárrate a ese pensamiento por un momento, porque aquí tenemos un poco de cinta. Habías hablado de los otros productos que tiene Microsoft. Y así, en un evento en marzo llamado El futuro del trabajo con IA, Microsoft presentó el copiloto, o lo llamaremos aquí en esta conversación, Clippy 2.0. Es una función de asistente de IA para Microsoft 365.

Copilot combina el poder de los modelos de lenguaje grande con sus datos en el gráfico de Microsoft y las aplicaciones de Microsoft 365 para convertir sus palabras en la herramienta de productividad más poderosa del planeta.

CHAKRABARTI: Will, ¿espera que Google también implemente IA en sus productos más allá de la búsqueda?

KNIGHT: Sí, de hecho, ya comenzaron a hacerlo en Google IOS. Demostraron algunas cosas similares a lo que estamos viendo con Office, donde lo ayudará a escribir, redactar un documento, generar un correo electrónico, ingresar a una hoja de cálculo y hacer cosas por usted.

CHAKRABARTI: Está bien. Entonces, ustedes dos han planteado una pregunta interesante que, obviamente, los productos en los que se implementan estas cosas son solo la parte superficial de la historia. Lo que realmente, creo, está ocurriendo más profundamente es cuando la gente habla de algo tan fundamental como el software. … ¿Cuánto de la actividad frenética que estamos viendo ahora entre Google y Microsoft tiene más que ver con si pueden ser los líderes en esta nueva tecnología, en IA generativa y cómo se usa?

KNIGHT: Creo que una gran parte se trata de eso. Y lo que escucho de personas dentro de algunas de estas empresas es que a veces los ejecutivos no escuchan ni siquiera a los tecnólogos y aquellos que tienen preocupaciones sobre ellos. Así que están desesperados por sacar esto a la luz y obtener una ventaja en lo que ven como una tecnología fundamental que se implementará en miles de millones de computadoras.

CHAKRABARTI: Y Dina, ¿qué piensas de esa pregunta?

BASS: Creo que eso es justo. Y están haciendo un pequeño baile entre decir que estamos tratando de tener cuidado y que sabemos que estos productos no funcionan a la perfección, y queremos que sepas las formas en que no funcionan. Pero aquí hay otro y aquí hay otro. Y deberías probar esto, y por cierto, deberías regularnos. Es un poco tratar de hacer un poco de claqué.

CHAKRABARTI: Volviendo a buscar de nuevo, solo porque creo que es el punto de contacto que la gente entenderá más intrínsecamente. ¿Cómo cree que lo que están haciendo Google y Microsoft cambiará la forma en que las personas usan la búsqueda o la información que obtienen de ella?

KNIGHT: Sí, creo que eso está por verse. Quiero decir, cuando trato de usar esta búsqueda generativa, me sorprende que tengo algo que alucina. Inventa cosas, ¿verdad? Eso no es lo que esperamos de un motor de búsqueda. Y creo que aún queda por verse si va a ser, ya sabes, los beneficios superarán por completo los límites. Sin duda, creo que de alguna manera se colará en la búsqueda, pero tal vez no la suplante por completo.

CHAKRABARTI: Sí. Sabes, escuchamos un poco antes en esa cinta del lanzamiento de Google de su búsqueda habilitada por IA, Cathy Edwards estaba hablando, Oh, puede ser particularmente útil para sus preguntas que también tienen preguntas. ¿A qué crees que se está refiriendo allí?

KNIGHT: Creo que está hablando de preguntas de seguimiento en las que preguntará algo. Tiene la capacidad de hacer una pregunta aclaratoria de, por ejemplo, el chat de Bing o el bot de chat de Google. Entonces puedes entrar en este diálogo más humano con estas cosas. Pero eso también plantea un montón de problemas en mi mente porque estás antropomorfizando estas cosas a un nivel que no justifican y causa mucha confusión y puede... llevar a las personas a malinterpretar lo que están hablando. y puede decir cosas que parecen muy raras.

CHAKRABARTI: Así que vamos a llegar a más de estas alucinaciones y preocupaciones en solo un minuto aquí. Pero, Dina, ya sabes, mencionaste un poco antes que, ya sabes, ¿no es sorprendente que, una vez más, estemos hablando de Microsoft vs. Google? Sin embargo, según tengo entendido, durante al menos un período de tiempo alrededor de 2015, alcanzaron algún tipo de tregua legal y regulatoria. ¿Lo describirías así?

BAJO: Sí. Hubo una especie de distensión formal entre las dos compañías. No era que no competirían. Todavía estaban compitiendo muy vigorosamente. Nuevamente, particularmente cuando Google intenta tomar más negocios de Microsoft en el espacio de oficina y productividad. Pero lo que acordaron hacer fue no quejarse unos de otros ante los reguladores. Eso se vino abajo en los últimos años. Ambos se han estado quejando a gritos el uno del otro ante los reguladores. Y eso añade otra dimensión. Mientras miramos esta batalla de IA, otra dimensión de la hostilidad entre las dos compañías.

Bien, entonces, Dina, nos quedaremos un segundo porque quiero traer a Sarah Myers West a la conversación. Es directora gerente del AI Now Institute, que estudia las implicaciones sociales de la inteligencia artificial. Bienvenida a On Point, Sarah.

SARAH MYERS WEST: Gracias por recibirme.

CHAKRABARTI: Entonces, cuando presenté el programa, tenemos a personas de alto nivel en Microsoft y Google entre los firmantes de otra carta de advertencia de IA que dice que podría ser una amenaza existencial. Necesitamos ser regulados. Luego, como Dina y nosotros habremos explicado cuidadosamente para nosotros, todavía están impulsando estos productos que realmente miles de millones de personas usan todos los días, sabiendo que a veces esos productos generativos de IA en la búsqueda alucinan, que será mi miedo favorito. palabra de la semana aquí. Quiero decir, ¿no es algo irresponsable que estas empresas hagan esto, Sarah?

MYERS WEST: Quiero decir, parece que estamos de vuelta en la era de la tecnología. Donde esencialmente están experimentando en la naturaleza con estas tecnologías, incluso cuando reconocen que no están realmente, ya sabes, completamente validadas o probadas o listas para el mercado.

Quiero decir, Dana dijo perfectamente que todos somos los probadores beta para esto, pero es algo para estar probando beta una nueva versión de un sistema operativo. O pruebas beta, no sé, una nueva aplicación o la última versión de Word. Es algo completamente diferente estar probando en versión beta un producto que le brinda información a cambio de la que no puede estar seguro si es veraz o no.

Y este es un producto en el que confías para darte respuestas veraces. Quiero decir, me parece más que jugar un poco con fuego. Quiero decir, ¿existe algún sistema para que las empresas piensen más sobre esto en el mundo de la IA antes de lanzar los productos?

MYERS WEST: Es una muy buena pregunta. Y estas empresas han estado al tanto de estas preocupaciones durante mucho tiempo. Ya mencionará que Google ha estado trabajando en la tecnología subyacente desde 2015 y ha dudado en implementarla debido a estos riesgos. OpenAI también ha estado trabajando en esta tecnología durante algún tiempo. Y si recuerdas en 2019 cuando estaban a punto de lanzar el modelo GPT-2, que es una especie de precursor de GPT-4, el motor que impulsa ChatGPT, OpenAI dijo que esto era demasiado peligroso para el lanzamiento público y vamos retener.

Ahora cambió de opinión sobre eso. Pero ya sabes, si miras hacia atrás a ese momento, estaban expresando muchas de estas mismas preocupaciones sobre el riesgo de fraude, de la difusión de información errónea, los riesgos de ciberseguridad. Y esos riesgos subyacentes claramente no han desaparecido. Lo que creo que es realmente crítico en este momento es que los reguladores y las agencias de aplicación están siendo muy claros en cuanto a que tienen toda la intención de aplicar la ley existente a estos sistemas.

Y hay un marco bastante claro sobre cómo se aplican esas reglas. Cosas como las autoridades de la FTC sobre el engaño, por ejemplo, han dicho claramente que no está bien, incluso si no es la intención del sistema. Si está produciendo algo que permite el fraude a gran escala, eso viola la ley.

CHAKRABARTI: Entonces, quiero decir, si es tan claro como eso, parecería que estos productos están violando la ley en este momento porque están publicando información que no siempre es precisa.

MYERS WEST: Es decir, plantea la pregunta de por qué las empresas estarían dispuestas a implementar sistemas que muy bien podrían ser ilegales o por qué no existen suficientes medidas de protección, al menos, para evitar ese tipo de conducta.

CHAKRABARTI: Will, déjame hacerte una pregunta aquí. Es parte del tipo de impulso irresistible de lanzar estos productos, incluso cuando parece haber una discusión bastante vigorosa dentro de Microsoft y Google sobre si deberían o no. ¿Existe un impulso irresistible de que para que estos grandes modelos de lenguaje mejoren, necesitan más información? Y la mejor manera de hacerlo es desatarlos sobre las personas.

KNIGHT: Ese es un gran punto. Y en realidad es una razón muy importante por la que se apresuran tanto. Una de las razones por las que estos modelos son tan buenos es porque se han perfeccionado con los comentarios de las personas. Entonces, si creen que es una buena respuesta, una mala respuesta. Y puede contratar personas para hacer eso, o puede hacerlo a través de los usuarios. Entonces, sí, una de las ventajas que tiene Microsoft OpenAI es que tienen esta enorme base de usuarios... y no van a disminuir la velocidad porque se están aprovechando de esa ventaja.

CHAKRABARTI: Puedes imaginar eso, ya sabes, digamos Google con más de 8.500 millones de búsquedas por día, incluso si una pequeña fracción de esas búsquedas se realizan a través de su búsqueda habilitada para IA, eso será una gran cantidad de información.

KNIGHT: ... Cuantos más datos pueda obtener de los usuarios, más podrá alimentarlos, mejor.

CHAKRABARTI: Así que escuchemos un poco más de algunas grandes voces del mundo de la IA. Probablemente haya oído hablar en las últimas semanas de un hombre llamado Geoffrey Hinton. Se le considera uno de los tres padrinos de la IA que solía estar en Google hasta que renunció el mes pasado.

GEOFFREY HINTON: De lo que he estado hablando principalmente es de lo que llamo la amenaza existencial, que es la posibilidad de que se vuelvan más inteligentes que nosotros y nos reemplacen. Obtendrán el control.

CHAKRABARTI: Así que ese es Geoffrey Hinton. También está Sam Altman. Es el director ejecutivo de OpenAI y recientemente habló con el New Yorker Radio Hour y compartió una pregunta fundamental en la que piensa. ¿Es la IA una herramienta o una criatura?

SAM ALTMAN: Lo que es este sistema, es un sistema que toma algo de texto, hace algunas estadísticas complicadas sobre él y saca algo más de texto. Y un comportamiento emergente asombroso puede ocurrir a partir de eso. Como hemos visto, eso puede influir significativamente en el pensamiento de una persona. Y necesitamos muchas restricciones al respecto. Pero no creo que estemos en camino de construir una criatura aquí. Ahora, los humanos realmente pueden hacer mal uso de la herramienta en formas muy importantes, y eso me preocupa mucho. Mucho más de lo que me preocupa actualmente, el tipo de ciencia ficción de esta cosa, ya sabes, se despierta y pierde el control.

CHAKRABARTI: Entonces, Sarah Myers West, responda a lo que dice Sam Altman allí, porque, por supuesto, son una especie de advertencias existenciales las que están acaparando todos los titulares, incluida nuestra atención. Pero que hay un mundo completamente diferente de preocupaciones que vendrían antes del escenario de pérdida de control en el que tal vez no estamos pensando lo suficiente.

MYERS WEST: Absolutamente. Sabes, ese clip me recordó esta entrevista realmente genial que leí el fin de semana con el escritor de ciencia ficción Ted Chiang, donde se le preguntó, ya sabes, ¿qué usarías para describir la IA si no fueran los términos IA? . Y su respuesta inmediata fue la estadística aplicada. Sabes, hay mucho significado que está imbuido con el término inteligencia artificial que le da, ya sabes, este tipo de poder cultural que nos está poniendo a todos, ya sabes, emocionados y ansiosos por sus efectos.

Pero lo que hemos escuchado de, ya sabes, varios líderes corporativos de los que hemos escuchado clips de hoy es un estribillo constante sobre uno, estos son esencialmente motores de predicción de datos y dos, que ya están en amplio usar. Lo que es diferente en este momento es que ahora hay una interfaz con la que las personas pueden interactuar y que le da un tono realmente diferente a nuestra comprensión de la IA.

Pero si son esencialmente, ya sabes, mecanismos estadísticos que se usan para buscar patrones, una cosa en la que han demostrado ser realmente buenos es reflejar y ampliar los patrones históricos de desigualdad social y ese tipo de patrones en los que necesitamos estar poniendo nuestro mayor enfoque, donde la IA se está utilizando en el cuidado de la salud, en la educación.

Ya sea que lo llamen para una entrevista de trabajo o cuál será la tasa de su hipoteca. Lo que estamos viendo constantemente es una tendencia a que los sistemas de IA amplifiquen los patrones históricos de discriminación racial, discriminación basada en el género. Y ahí es, creo, donde debemos poner la mayor parte de nuestro enfoque.

CHAKRABARTI: Entonces, al pensar nuevamente en el llamado a la regulación o al menos, una discusión más vigorosa sobre la regulación que estos mismos tecnólogos, ya saben, están lanzando repetidamente este año, Dina me dejó pasar a usted en algo. Porque me imagino que ya estamos en un área de un nuevo tipo de desigualdad, yo lo llamaría desigualdad de información. Y podríamos dirigirnos a gran velocidad hacia una desigualdad aún mayor en ese frente.

Por otro lado, si los reguladores anunciaran mañana, digamos que la FTC anunciara mañana, bueno, ya saben, hemos probado su IA, su búsqueda generativa de IA. Vemos que está generando información inexacta o respuestas fuera de contexto o alucinando. Y claramente está violando la ley.

Vamos a impedir que lo uses. Vamos a decir que no puedes tener este producto en el mundo ahora mismo. Ya sabes, a pesar de que Microsoft dice, oye, tal vez deberíamos regular la IA. Dina, es decir, Microsoft históricamente también y Google, seamos honestos, ha hecho todo lo posible para combatir cualquier tipo de regulación contra estas mismas empresas. Quiero decir, ¿cómo reaccionarían si realmente estuvieran regulados en IA?

BASS: Microsoft ha estado pidiendo regulaciones sobre IA desde hace varios años. Pero como usted señala, son las regulaciones lo que quieren. Quieren que llegue a cierto punto y no más allá. Pero tenemos regulaciones sobre la seguridad de todo tipo de productos. La gente a menudo usa el ejemplo de un automóvil. No permites que alguien diseñe un vehículo eléctrico y vaya conduciendo, ya sabes, por las calles.

Y, saben, quiero secundar que esta noción de que estos sistemas de IA ya tienen problemas significativos en torno al sesgo racial, en torno al sesgo de género, las cosas por las que debemos preocuparnos en este momento no son en lo que el Dr. Hinton se está enfocando necesariamente este posibilidad de algún poder sobrehumano en el futuro que ni siquiera estamos seguros de que la IA pueda lograr. Los problemas son las cosas que ya vemos que no se están tratando. Sabes, nos acercamos a una elección en los EE. UU. y hay un problema. La preocupación no es que obtengas una especie de respuesta tonta cuando preguntas por qué las aerolíneas son tan malas.

La preocupación es que estas son herramientas generativas, lo que significa que pueden crear contenido nuevo que puede ser engañoso, falsificaciones profundas, ya sabes, imágenes que no son reales. Y que puede que no sea posible que la gente diga que estas cosas son falsas. Estos son problemas que, ya sabes, los investigadores y especialistas en ética de la IA han estado señalando durante años dentro de empresas como Google y Microsoft.

Y no han obtenido mucha tracción en términos de ser escuchados. Para hacer una excepción con lo que dice el Dr. Hinton, cuando estaba en Google, no apoyó a personas como el Dr. Timnit Gebru y la Dra. Margaret Mitchell, que están trabajando en estos mismos temas de interés inmediato y la IA.

Este artículo fue publicado originalmente en WBUR.org.

Derechos de autor 2023 NPR. Para ver más, visite https://www.npr.org.