El director ejecutivo de OpenAI, creador de ChatGPT, resaltó que la IA es una herramienta que en gran medida trabaja bajo el control de los humanos.
El director ejecutivo de OpenAI, Sam Altman, admitió estar “un poco asustado” por crear ChatGPT y el uso que las personas puedan darle, pero destacó que podría ser la tecnología más grande que se haya desarrollado hasta el momento.
“Tenemos que tener cuidado aquí”, Altman le dijo a ABC News el jueves, dos días después de que su compañía presentara su último modelo de lenguaje, denominado GPT-4.
Según OpenAI, el modelo “exhibe un desempeño a nivel humano en varios puntos de referencia académicos y profesionales,” y es capaz de aprobar un examen simulado de Estados Unidos con una puntuación máxima del 10%, mientras se desempeña en el percentil 93 en un examen de lectura SAT y en el percentil 89 en un examen de matemáticas SAT.
Riesgo de desinformación a gran escala
“Estoy particularmente preocupado de que estos modelos puedan usarse para la desinformación a gran escala”, dijo Altman. “Ahora que están mejorando en la escritura de códigos informáticos, podría usarse para ataques cibernéticos ofensivos”.
“Creo que la gente debería estar feliz de que estemos un poco asustados por esto”, agregó Altman, antes de explicar que su empresa está trabajando para colocar “límites de seguridad” sobre su creación.
Altman le dijo a ABC que su compañía está en “contacto regular” con funcionarios del gobierno, pero no dio más detalles sobre si estos funcionarios desempeñaron algún papel en la configuración de las preferencias políticas de ChatGPT. Le dijo a la cadena estadounidense que OpenAI tiene un equipo de formuladores de políticas que deciden “lo que creemos que es seguro y bueno” para compartir con los usuarios.
Actualmente, GPT-4 está disponible para un número limitado de usuarios a modo de prueba. Los primeros informes sugieren que el modelo es significativamente más poderoso que su predecesor y potencialmente más peligroso.
Fuente: Diario Popular
