/ sábado 25 de noviembre de 2023

En OpenIA dejan atrás la seguridad por la comercialización

Tras el regreso de Sam Altman a la empresa creadora del ChatGPT, analistas dicen que se priorizó la innovación sobre la seguridad de la IA

El despido y pronto retorno de Sam Altman como CEO de OpenIA, startup responsable de la creación y desarrollo de ChatGPT, podría marcar el comienzo de una nueva era para el desarrollo de la Inteligencia Artificial (IA), donde se apostará más por la comercialización que la seguridad.

“Con el regreso de Sam Altman podemos decir que la innovación, lanzamiento de productos y monetización prevalecerán sobre las consideraciones de seguridad en el futuro” explicó Luca Menozzi, analista de investigación de Next Generation de Julius Baer.

La pelea interna en OpenAI se relacionó con la dirección estratégica que la startup tenía que tomar con los futuros desarrollos tecnológicos: apostar por el desarrollo de nuevos productos o desacelerar el desarrollo y centrarse en la seguridad. Y parece ser que ganó el desarrollo, dijo el especialista.

“Estoy deseando volver a OpenAI”, dijo Altman entre varias publicaciones que hizo sobre su salida de la firma en la plataforma de redes sociales X el martes por la noche.

Para Menozzi, la relación entre Microsoft y OpenAI, después del retorno de Altman y con la mayoría del consejo de administración presentando sus renuncias, se fortalecerá, pero sí creará un precedente para las inversiones de grandes empresas en startups de IA.

“Probablemente, Microsoft tendrá alguna representación en el consejo de administración para evitar malas sorpresas.

La cooperación entre Microsoft y OpenAI continuará. Hacia adelante, creemos que las empresas pensarán dos veces antes de llevar a cabo estas adquisiciones y se concentrarán más en los términos de sus acuerdos”, dijo Menozzi.

Pese al caos, la cooperación entre Microsoft y OpenAI continuará, con Microsoft dependiendo de OpenAI en términos de modelos de Inteligencia Artificial, y OpenAI contará con la infraestructura de Microsoft para desarrollar esos modelos.

“Creemos que Microsoft hubiera querido adoptar a muchos empleados de OpenAI, internalizar la investigación sobre IA y tener influencia en la comercialización de productos. Esto podría haber disminuido la velocidad de la innovación, pero hubiera permitido mayor control. Sin embargo, ya no es el caso”

DESCUBRE SUPERINTELIGENCIA

Antes del regreso de Altman como CEO de OpenAI, varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

De acuerdo con Reuters, una carta y el algoritmo de IA no reportados anteriormente fueron un catalizador que provocó que la junta expulsara a Altman. Según una de las fuentes, la ejecutiva de larga data Mira Murati dijo a los empleados el miércoles que una carta sobre el avance de la IA llamada Q* (pronunciado Q-Star), precipitó las acciones de la junta.

El fabricante de ChatGPT había logrado avances en Q, lo que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), lo que OpenAI define como sistemas de IA que son más inteligentes que los humanos.

Cabe destacar que OpenAI, a diferencia de muchas empresas, está supervisada por una junta matriz sin fines de lucro diseñada para garantizar que se dé prioridad a la seguridad de la IA por encima del crecimiento. Sin embargo, la nueva reorganización favorecerá a Altman y Microsoft para el desarrollo de nuevas herramientas de IA.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Bret Taylor, excodirector ejecutivo de Salesforce, Larry Summers, exsecretario del Tesoro de Estados Unidos, y Adam D'Angelo, director ejecutivo y actual director de Quora, serán parte de la junta directiva de OpenAI.

Taylor, un programador informático y empresario estadounidense de 43 años, presidirá la junta, mientras que Summers, un destacado economista de 68 años, también miembro de las juntas directivas de Block Inc y Skillsoft Corp, aportará su experiencia. D'Angelo, el empresario de Internet de 39 años y fundador de Quora, completará el grupo que contribuirá al nuevo enfoque de desarrollo de herramientas de IA de OpenAI.

El despido y pronto retorno de Sam Altman como CEO de OpenIA, startup responsable de la creación y desarrollo de ChatGPT, podría marcar el comienzo de una nueva era para el desarrollo de la Inteligencia Artificial (IA), donde se apostará más por la comercialización que la seguridad.

“Con el regreso de Sam Altman podemos decir que la innovación, lanzamiento de productos y monetización prevalecerán sobre las consideraciones de seguridad en el futuro” explicó Luca Menozzi, analista de investigación de Next Generation de Julius Baer.

La pelea interna en OpenAI se relacionó con la dirección estratégica que la startup tenía que tomar con los futuros desarrollos tecnológicos: apostar por el desarrollo de nuevos productos o desacelerar el desarrollo y centrarse en la seguridad. Y parece ser que ganó el desarrollo, dijo el especialista.

“Estoy deseando volver a OpenAI”, dijo Altman entre varias publicaciones que hizo sobre su salida de la firma en la plataforma de redes sociales X el martes por la noche.

Para Menozzi, la relación entre Microsoft y OpenAI, después del retorno de Altman y con la mayoría del consejo de administración presentando sus renuncias, se fortalecerá, pero sí creará un precedente para las inversiones de grandes empresas en startups de IA.

“Probablemente, Microsoft tendrá alguna representación en el consejo de administración para evitar malas sorpresas.

La cooperación entre Microsoft y OpenAI continuará. Hacia adelante, creemos que las empresas pensarán dos veces antes de llevar a cabo estas adquisiciones y se concentrarán más en los términos de sus acuerdos”, dijo Menozzi.

Pese al caos, la cooperación entre Microsoft y OpenAI continuará, con Microsoft dependiendo de OpenAI en términos de modelos de Inteligencia Artificial, y OpenAI contará con la infraestructura de Microsoft para desarrollar esos modelos.

“Creemos que Microsoft hubiera querido adoptar a muchos empleados de OpenAI, internalizar la investigación sobre IA y tener influencia en la comercialización de productos. Esto podría haber disminuido la velocidad de la innovación, pero hubiera permitido mayor control. Sin embargo, ya no es el caso”

DESCUBRE SUPERINTELIGENCIA

Antes del regreso de Altman como CEO de OpenAI, varios investigadores enviaron a la junta directiva una carta advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según dijeron, podría amenazar a la humanidad.

De acuerdo con Reuters, una carta y el algoritmo de IA no reportados anteriormente fueron un catalizador que provocó que la junta expulsara a Altman. Según una de las fuentes, la ejecutiva de larga data Mira Murati dijo a los empleados el miércoles que una carta sobre el avance de la IA llamada Q* (pronunciado Q-Star), precipitó las acciones de la junta.

El fabricante de ChatGPT había logrado avances en Q, lo que algunos creen internamente podría ser un gran avance en la búsqueda de superinteligencia de la startup, también conocida como inteligencia artificial general (AGI), lo que OpenAI define como sistemas de IA que son más inteligentes que los humanos.

Cabe destacar que OpenAI, a diferencia de muchas empresas, está supervisada por una junta matriz sin fines de lucro diseñada para garantizar que se dé prioridad a la seguridad de la IA por encima del crecimiento. Sin embargo, la nueva reorganización favorecerá a Altman y Microsoft para el desarrollo de nuevas herramientas de IA.

➡️ Suscríbete a nuestro Newsletter y recibe las notas más relevantes en tu correo

Bret Taylor, excodirector ejecutivo de Salesforce, Larry Summers, exsecretario del Tesoro de Estados Unidos, y Adam D'Angelo, director ejecutivo y actual director de Quora, serán parte de la junta directiva de OpenAI.

Taylor, un programador informático y empresario estadounidense de 43 años, presidirá la junta, mientras que Summers, un destacado economista de 68 años, también miembro de las juntas directivas de Block Inc y Skillsoft Corp, aportará su experiencia. D'Angelo, el empresario de Internet de 39 años y fundador de Quora, completará el grupo que contribuirá al nuevo enfoque de desarrollo de herramientas de IA de OpenAI.

Parral

Reportan disparos y presencia de civiles armados en Zaragoza

No se han registrado personas lesionadas o fallecidas

Parral

¡Sí habrá juegos en el Gran Estadio Parral! Confirman partidos durante la Liga Estatal

A pesar de la deuda en el servicio del agua y luz, el Alcalde la ciudad señaló que se buscarán mecanismos para dar solución

Cuauhtémoc

¿La has visto? Piden ayuda para localizar a Briseida Torrez de 14 años

La última ocasión que fue vista, fue en la colonia Tierra Nueva en la ciudad de Cuauhtémoc, el pasado 08 de mayo del presente año

Parral

Reprogramarán festejo de Movimiento Ciudadano por Día de las Madres

Alfredo "El Caballo" Lozoya señala boicot de la "vieja política" en contra del evento, por lo que dijo que en breve anunciarán nueva fecha

Parral

¡Cuidado al transitar! Reportan ganado en la Vialidad Elisa Griensen

Vecinos de los sectores de La Fortuna y Talleres realizaron un llamado a los propietarios para que lleven a cabo la vigilancia y eviten que salgan de sus espacios para prevenir accidentes

Policiaca

Detienen a hombre por amenazar con matar a su esposa e hijastra

Los hechos ocurrieron el 12 de julio del 2023 y apenas fue detenido el pasado 10 de mayo, casi un año después, por el presunto delito de violencia familiar