Open AI, la compañía de investigación e implementación de la IA -que creó el famoso ChatGPT- se anticipa al reto de regular estas nuevas tecnologías y anuncia la creación de “Superaligment".
La empresa anunció a través de su blog la conformación de un equipo que se encargará de dirigir y "controlar" aquellos sistemas de inteligencia artificial que puedan resultar más inteligente que los seres humanos. Este equipo especial estará dirigido por Ilya Sutskever, Co-Founder y Chief Scientist de OpenAI; y el investigador Jan Leike.
De acuerdo a la información publicada por la compañía el objetivo de “Superaligment" es resolver los principales desafíos técnicos de la alineación de la superinteligencia en cuatro años.
"La superinteligencia será la tecnología más impactante que la humanidad haya inventado y podría ayudarnos a resolver muchos de los problemas más importantes del mundo. Pero el vasto poder de la superinteligencia también podría ser muy peligroso y podría llevar a la pérdida de poder de la humanidad o incluso a la extinción humana”. La gestión de estos riesgos requerirá, entre otras cosas, nuevas instituciones para la gobernanza y la solución del problema de la alineación de la superinteligencia”, señala Open AI
Fuente: Sitio web de Open AI
