Jacob Coxon, de 27 anos pesquisador de intelig\u00eancia artificial (IA) que deixou a OpenAI, criadora do ChatGPT, para trabalhar na Anthropic decidiu abandonar o setor. Ele acusa as duas empresas americanas de “jogar com as nossas vidas” na corrida para desenvolver modelos de IA capazes de se autoaperfei\u00e7oar.<\/p>\n\n\n\n
“As pessoas que est\u00e3o construindo a IA acreditam sinceramente que ela pode matar a todos n\u00f3s at\u00e9 o final da d\u00e9cada”, afirmou o pesquisador em postagem no X. “Isso n\u00e3o \u00e9 uma jogada de marketing.”<\/strong><\/p>\n\n\n\n O brit\u00e2nico disse ao The Wall Street Journal que, nos “cen\u00e1rios mais agressivos”, a situa\u00e7\u00e3o poderia sair do controle j\u00e1 no fim do pr\u00f3ximo ano. Ele alertou que um dos principais riscos \u00e9 a IA passar a se desenvolver por conta pr\u00f3pria, tornando-se mais dif\u00edcil de controlar.<\/p>\n\n\n\n “Nenhuma das empresas age de forma respons\u00e1vel. Elas correm diretamente em dire\u00e7\u00e3o a uma superintelig\u00eancia capaz de se autoaperfei\u00e7oar e jogam com as nossas vidas”, disse Coxon nesta ter\u00e7a-feira (08). Superintelig\u00eancia \u00e9 o ponto te\u00f3rico em que as capacidades da IA superam a intelig\u00eancia humana.<\/strong><\/p>\n\n\n\n Evan Hubinger, executivo da \u00e1rea de seguran\u00e7a da Anthropic, apoiou a declara\u00e7\u00e3o de Coxon no X. “N\u00f3s realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”, disse. Segundo ele, a chance de isso acontecer na pr\u00f3xima d\u00e9cada \u00e9 superior a 10%.<\/p>\n\n\n\n Hubinger afirmou que a Anthropic est\u00e1 “fazendo o poss\u00edvel”, mas ainda n\u00e3o tem um plano capaz de garantir que um sistema de IA que supere as capacidades humanas obede\u00e7a a seus criadores. Ele ressaltou, por\u00e9m, que o risco de isso acontecer com os modelos atuais \u00e9 baixo.<\/p>\n\n\n\n Coxon considera genu\u00ednos os esfor\u00e7os da Anthropic, mas acredita que nenhuma empresa seja capaz de desenvolver, de forma respons\u00e1vel, uma IA que supere a intelig\u00eancia humana sem interven\u00e7\u00e3o governamental ou uma desacelera\u00e7\u00e3o coordenada.<\/p>\n\n\n\n “Na Anthropic, os riscos envolvidos s\u00e3o bem compreendidos, mas eles est\u00e3o presos em uma corrida para chegar l\u00e1 primeiro; acreditam que ningu\u00e9m mais agir\u00e1 com responsabilidade, ent\u00e3o precisam fazer isso eles mesmos, apesar dos riscos”, contou.<\/strong><\/p>\n\n\n\n Necessidade de regulamenta\u00e7\u00e3o<\/strong><\/p>\n\n\n\n No fim de julho, mais de mil profissionais do setor de tecnologia \u2014 incluindo o CEO da Anthropic, Dario Amodei \u2014 pediram a Washington apoio a uma desacelera\u00e7\u00e3o coordenada no desenvolvimento dos sistemas de IA mais avan\u00e7ados.<\/p>\n\n\n\n A OpenAI interrompeu por duas semanas, em agosto, o treinamento de seus modelos mais recentes antes de retom\u00e1-lo sob controles mais rigorosos. Neste domingo, o cientista-chefe da empresa, Jakub Pachocki, defendeu a ado\u00e7\u00e3o de “extrema cautela”.<\/p>\n\n\n\n “A coordena\u00e7\u00e3o internacional sobre o desenvolvimento futuro da IA precisa se tornar uma prioridade m\u00e1xima para governos de todo o mundo”, afirmou Pachocki em uma publica\u00e7\u00e3o no blog da empresa.<\/strong><\/p>\n\n\n\n Nos Estados Unidos, os modelos de IA n\u00e3o s\u00e3o regulamentados por uma legisla\u00e7\u00e3o federal. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto de lei para suspender o desenvolvimento de IA at\u00e9 a cria\u00e7\u00e3o de um \u00f3rg\u00e3o regulador federal.<\/p>\n\n\n\n Da Reda\u00e7\u00e3o \u2013 com informa\u00e7\u00f5es do Deutsche Welle<\/strong><\/p>\n\n\n\n Cr\u00e9dito: <\/strong>OpenAI e Anthropic \u2014 Foto: Reuters\/Dado Ruvic\/Illustration<\/p>\n","protected":false},"excerpt":{"rendered":" Jacob Coxon, de 27 anos pesquisador de intelig\u00eancia artificial (IA) que deixou a OpenAI, criadora do ChatGPT, para trabalhar na Anthropic decidiu abandonar o setor. Ele acusa as duas empresas americanas de “jogar com as nossas vidas” na corrida para desenvolver modelos de IA capazes de se autoaperfei\u00e7oar. “As pessoas que est\u00e3o construindo a IA […]<\/p>\n","protected":false},"author":4,"featured_media":8581,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[220],"tags":[],"class_list":["post-8579","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-comunicacao"],"_links":{"self":[{"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/posts\/8579","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/comments?post=8579"}],"version-history":[{"count":1,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/posts\/8579\/revisions"}],"predecessor-version":[{"id":8582,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/posts\/8579\/revisions\/8582"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/media\/8581"}],"wp:attachment":[{"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/media?parent=8579"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/categories?post=8579"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/rosarioitanews.com.br\/index2.php\/wp-json\/wp\/v2\/tags?post=8579"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}