Una fuerte advertencia de Elon Musk

A medida que ingresamos en la era de la inteligencia artificial, los riesgos para la sociedad humana se han disparado, razón por la cual Elon Musk, un grupo de expertos en IA y líderes de la industria, piden una pausa de seis meses en la enseñanza de sistemas de IA más potentes que GPT-4.

De hecho, ¡afirman directamente que existen riesgos potenciales para la sociedad y la humanidad! No especifican cuáles son estos peligros, pero ya se han mencionado muchas veces antes e incluso mencionaron la «independencia» de estos sistemas de los anfitriones humanos y que, al controlar los sistemas cibernéticos globales, pueden causar desastres políticos y económicos.

Recordemos que tanto los arsenales nucleares estadounidenses como los rusos están controlados por computadoras, y no hay ninguno que no sea vulnerable a la IA. Un ejemplo típico es la trama central de las películas de Terminator, donde la inteligencia artificial de Skynet tomó el control de los arsenales nucleares y los activó, acabando con la humanidad, que él veía como una especie de… enfermedad.

La carta, emitida por el Future of Life Institute sin fines de lucro y firmada por más de 1,000 personas, incluidos Musk, el cofundador de Apple, Steve Wozniak, y el CEO de Stability AI, Emad Mostake, pide detener el desarrollo avanzado de IA hasta que pueda desarrollarse e implementarse. y revisados ​​de forma independiente, protocolos de seguridad comunes para dichas aplicaciones. “Los potentes sistemas de IA solo deben implementarse cuando estemos seguros de que sus resultados serán positivos y los riesgos manejables”, dice la carta.

La carta también detalla los riesgos potenciales para la sociedad y la civilización asociados con el surgimiento de sistemas de inteligencia artificial que compiten con los humanos en términos de trastornos económicos y políticos. La carta insta a los desarrolladores a trabajar con los legisladores para crear un marco regulatorio.

La carta llega un día después de que Europol planteara preocupaciones éticas y legales sobre las aplicaciones de inteligencia artificial de vanguardia como ChatGPT, advirtiendo sobre el posible uso malicioso del sistema en intentos de phishing, desinformación e ciberdelincuencia.

Las aplicaciones y funciones de inteligencia artificial de vanguardia han experimentado un aumento desde finales de 2022, cuando OpenAI, respaldado por Microsoft, presentó su plataforma ChatGPT, lo que llevó a las empresas rivales a lanzar aplicaciones similares o integrar funciones similares en sus plataformas.

Source link