{"id":937,"date":"2021-10-10T10:53:43","date_gmt":"2021-10-10T13:53:43","guid":{"rendered":"https:\/\/expressaoms.com.br\/?p=937"},"modified":"2021-10-10T10:53:43","modified_gmt":"2021-10-10T13:53:43","slug":"por-que-algoritmos-das-redes-sociais-estao-cada-vez-mais-perigosos-na-visao-de-pioneiro-da-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/expressaoms.com.br\/index.php\/2021\/10\/10\/por-que-algoritmos-das-redes-sociais-estao-cada-vez-mais-perigosos-na-visao-de-pioneiro-da-inteligencia-artificial\/","title":{"rendered":"Por que algoritmos das redes sociais est\u00e3o cada vez mais perigosos, na vis\u00e3o de pioneiro da Intelig\u00eancia Artificial"},"content":{"rendered":"

Pesquisador Stuart Russel adverte que o modelo predominante de Intelig\u00eancia Artificial \u00e9, em sua opini\u00e3o, uma amea\u00e7a \u00e0 sobreviv\u00eancia dos seres humanos.<\/em><\/p>\n

 <\/p>\n

 <\/p>\n

Stuart Russell, professor da Universidade da Calif\u00f3rnia em Berkeley, dedica-se h\u00e1 d\u00e9cadas ao estudo da Intelig\u00eancia Artificial (IA), mas tamb\u00e9m \u00e9 um de seus mais conhecidos cr\u00edticos – ao menos do modelo de IA que ele ainda v\u00ea como “padr\u00e3o” pelo mundo.<\/p>\n

Russell tem advertido que o modelo predominante de Intelig\u00eancia Artificial \u00e9, em sua opini\u00e3o, uma amea\u00e7a \u00e0 sobreviv\u00eancia dos seres humanos.<\/p>\n

Mas – \u00e0 diferen\u00e7a dos enredos de filmes de Hollywood sobre o assunto – n\u00e3o porque ele ache que essas tecnologias v\u00e3o se tornar conscientes e se voltar contra n\u00f3s.<\/p>\n

A preocupa\u00e7\u00e3o principal de Russell \u00e9 com a forma como essa intelig\u00eancia tem sido programada por seus desenvolvedores humanos: elas s\u00e3o incumbidas de otimizar o m\u00e1ximo poss\u00edvel suas tarefas, basicamente a qualquer custo.<\/p>\n

E, assim, tornam-se “cegas” e indiferentes aos problemas (ou, em \u00faltima inst\u00e2ncia, \u00e0 destrui\u00e7\u00e3o) que podem causar aos humanos.<\/p>\n

Para explicar isso \u00e0 BBC News Brasil, Russell usa a met\u00e1fora de um g\u00eanio de l\u00e2mpada atendendo aos desejos de seu mestre: “voc\u00ea pede ao g\u00eanio que te torne a pessoa mais rica do mundo, e assim acontece – mas s\u00f3 porque o g\u00eanio fez o resto das pessoas desaparecerem”, diz.<\/p>\n

“(Na IA) constru\u00edmos m\u00e1quinas com o que chamo de modelos padr\u00e3o: elas recebem objetivos que t\u00eam de conquistar ou otimizar, (ou seja), para os quais encontrar a melhor solu\u00e7\u00e3o poss\u00edvel. E a\u00ed levam a cabo essa a\u00e7\u00e3o.”\u00a0Mesmo que essa a\u00e7\u00e3o seja, na pr\u00e1tica, prejudicial aos humanos, ele argumenta.<\/p>\n

“Se construirmos a Intelig\u00eancia Artificial de modo a otimizar um objetivo fixo dado por n\u00f3s, elas (m\u00e1quinas) ser\u00e3o quase como psicopatas – perseguindo esse objetivo e sendo completamente alheias a todo o restante, at\u00e9 mesmo se pedirmos a elas que parem.”<\/em><\/p><\/blockquote>\n

Um exemplo cotidiano disso, opina Russell, s\u00e3o os algoritmos que regem as redes sociais – que ficaram t\u00e3o em evid\u00eancia nos \u00faltimos dias com a pane global que afetou Facebook, Instagram e WhatsApp durante cerca de seis horas na segunda-feira (4).<\/p>\n

A tarefa principal desses algoritmos \u00e9 favorecer a experi\u00eancia do usu\u00e1rio nas redes sociais – por exemplo, coletando o m\u00e1ximo de informa\u00e7\u00f5es o poss\u00edvel sobre esse usu\u00e1rio e fornecendo a ele conte\u00fado que se adeque a suas prefer\u00eancias, fazendo com que ele permane\u00e7a mais tempo conectado.<\/p>\n

Mesmo que isso ocorra \u00e0s custas do bem-estar desse usu\u00e1rio ou da cidadania global, prossegue o pesquisador.<\/p>\n

“As redes sociais criam v\u00edcio, depress\u00e3o, disfun\u00e7\u00e3o social, talvez extremismo, polariza\u00e7\u00e3o da sociedade, talvez contribuam para espalhar desinforma\u00e7\u00e3o. E est\u00e1 claro que seus algoritmos est\u00e3o projetados para otimizar um objetivo: que as pessoas cliquem, que passem mais tempo engajadas com o conte\u00fado”, pontua Russell.<\/p>\n

“E, ao otimizar essas quantidades, podem estar causando enormes problemas para a sociedade.”<\/p>\n

No entanto, prossegue Russell, esses algoritmos n\u00e3o sofrem escrut\u00ednio o bastante para que possam ser verificados ou “consertados” – dessa forma, seguem trabalhando para otimizar seu objetivo, indiferentes ao dano colateral.<\/p>\n

“(As redes sociais) n\u00e3o apenas est\u00e3o otimizando a coisa errada, como tamb\u00e9m est\u00e3o manipulando as pessoas, porque ao manipul\u00e1-las consegue-se aumentar seu engajamento. Se posso tornar voc\u00ea mais previs\u00edvel, por exemplo transformando voc\u00ea em uma eco-terrorista extremista, posso te mandar conte\u00fado eco-terrorista e ter certeza de que voc\u00ea vai clicar, e assim maximizar meus cliques.”<\/em><\/p><\/blockquote>\n

Essas cr\u00edticas foram refor\u00e7adas nesta ter\u00e7a-feira (5\/10) pela ex-funcion\u00e1ria do Facebook (e atual informante) Frances Haugen, que dep\u00f4s em audi\u00eancia no Congresso americano e afirmou que os sites e aplicativos da rede social “trazem danos \u00e0s crian\u00e7as, provocam divis\u00f5es e enfraquecem a democracia”. O Facebook reagiu dizendo que Haugen n\u00e3o tem conhecimento suficiente para fazer tais afirma\u00e7\u00f5es.<\/p>\n

IA com ‘valores humanos’<\/strong><\/p>\n

Russell, por sua vez, detalhar\u00e1 suas teorias a um p\u00fablico de pesquisadores brasileiros em 13 de outubro, durante a confer\u00eancia magna do encontro da Academia Brasileira de Ci\u00eancias, virtualmente.<\/p>\n

O pesquisador, autor de Compatibilidade Humana: Intelig\u00eancia Artificial e o Problema de Controle (sem vers\u00e3o no Brasil), \u00e9 considerado pioneiro no campo que chama de “Intelig\u00eancia Artificial compat\u00edvel com a exist\u00eancia humana”.<\/p>\n

“Precisamos de um tipo completamente diferente de sistemas de IA”, opina ele \u00e0 BBC News Brasil.<\/p>\n

Esse tipo de IA, prossegue, teria de “saber” que possui limita\u00e7\u00f5es, que n\u00e3o pode cumprir seus objetivos a qualquer custo e que, mesmo sendo uma m\u00e1quina, pode estar errado.<\/p>\n

“Isso faria essa intelig\u00eancia se comportar de um modo completamente diferente, mais cauteloso, (…) que vai pedir permiss\u00e3o antes de fazer algo quando n\u00e3o tiver certeza de se \u00e9 o que queremos. E, no caso mais extremo, que queira ser desligada para n\u00e3o fazer algo que v\u00e1 nos prejudicar. Essa \u00e9 a minha principal mensagem.”<\/em><\/p><\/blockquote>\n

A teoria defendida por Russell n\u00e3o \u00e9 consenso: h\u00e1 quem n\u00e3o considere amea\u00e7ador esse modelo vigente de Intelig\u00eancia Artificial.<\/p>\n

Um exemplo famoso dos dois lados desse debate ocorreu alguns anos atr\u00e1s, em uma discord\u00e2ncia p\u00fablica entre os empres\u00e1rios de tecnologia Mark Zuckerberg e Elon Musk.<\/p>\n

Reportagem do The New York Times aponta que, em um jantar ocorrido em 2014, os dois empres\u00e1rios debateram entre si: Musk apontou que “genuinamente acreditava no perigo” de a Intelig\u00eancia Artificial se tornar superior e subjugar os humanos.<\/p>\n

Zuckerberg, por\u00e9m, opinou que Musk estava sendo alarmista.<\/p>\n

Em entrevista no mesmo ano, o criador do Facebook se considerou um “otimista” quanto \u00e0 Intelig\u00eancia Artificial e afirmou que cr\u00edticos, como Musk, “estavam pintando cen\u00e1rios apocal\u00edpticos e irrespons\u00e1veis”.<\/p>\n

“Sempre que ou\u00e7o gente dizendo que a IA vai prejudicar as pessoas no futuro, penso que a tecnologia geralmente pode ser usada para o bem e para o mal, e voc\u00ea precisa ter cuidado a respeito de como a constr\u00f3i e como ela vai ser usada. Mas acho question\u00e1vel que se argumente por reduzir o ritmo do processo de IA. N\u00e3o consigo entender isso.”<\/p>\n

J\u00e1 Musk argumentou que a IA \u00e9 “potencialmente mais perigosa do que ogivas nucleares”.<\/p>\n

Um lento e invis\u00edvel ‘desastre nuclear’<\/strong><\/p>\n

Stuart Russell se soma \u00e0 preocupa\u00e7\u00e3o de Musk e tamb\u00e9m tra\u00e7a paralelos com os perigos da corrida nuclear.<\/p>\n

“Acho que muitos (especialistas em tecnologia) consideram esse argumento (dos perigos da IA) amea\u00e7ador porque ele basicamente diz: ‘a disciplina a que nos dedicamos h\u00e1 diversas d\u00e9cadas \u00e9 potencialmente um grande risco’. Algumas pessoas veem isso como ser contr\u00e1rio \u00e0 Intelig\u00eancia Artificial”, sustenta Russell.<\/p>\n

“Mark Zuckerberg acha que os coment\u00e1rios de Elon Musk s\u00e3o anti-IA, mas isso me parece rid\u00edculo. \u00c9 como dizer que a advert\u00eancia de que uma bomba nuclear pode explodir \u00e9 um argumento anti-f\u00edsica. N\u00e3o \u00e9 anti-f\u00edsica, \u00e9 um complemento \u00e0 f\u00edsica, por ter-se criado uma tecnologia t\u00e3o poderosa que pode destruir o mundo. E de fato tivemos (os acidentes nucleares de) Chernobyl, Fukushima, e a ind\u00fastria foi dizimada porque n\u00e3o prestou aten\u00e7\u00e3o suficiente aos riscos. Ent\u00e3o, se voc\u00ea quer obter os benef\u00edcios da IA, tem de prestar aten\u00e7\u00e3o aos riscos.”<\/p>\n

O atual descontrole sobre os algoritmos das redes sociais, argumenta Russell, pode causar “enormes problemas para a sociedade” tamb\u00e9m em escala global, mas, diferentemente de um desastre nuclear, “lentamente e de modo quase invis\u00edvel”.<\/p>\n

Como, ent\u00e3o, reverter esse curso?<\/strong><\/p>\n

Para Russell, talvez seja necess\u00e1rio um redesenho completo dos algoritmos das redes sociais. Mas, antes, \u00e9 preciso conhec\u00ea-los a fundo, opina.<\/p>\n

‘Descobrir o que causa a polariza\u00e7\u00e3o’<\/p>\n

Russell aponta que no Facebook, por exemplo, nem mesmo o conselho independente encarregado de supervisionar a rede social tem acesso pleno ao algoritmo que faz a curadoria do conte\u00fado visto pelos usu\u00e1rios.<\/p>\n

“Mas h\u00e1 um grupo grande de pesquisadores e um grande projeto em curso na Parceria Global em IA (GPAI, na sigla em ingl\u00eas), trabalhando com uma grande rede social que n\u00e3o posso identificar, para obter acesso a dados e fazer experimentos”, diz Russell.<\/p>\n

“O principal \u00e9 fazer experimentos com grupos de controle, ver com as pessoas o que est\u00e1 causando a polariza\u00e7\u00e3o social e a depress\u00e3o, e (verificar) se mudar o algoritmo melhora isso.”<\/p>\n

“N\u00e3o estou dizendo para as pessoas pararem de usar as redes sociais, nem que elas s\u00e3o inerentemente m\u00e1s”, prossegue Russell. “(O problema) \u00e9 a forma como os algoritmos funcionam, o uso de likes, de subir conte\u00fados (com base em prefer\u00eancias) ou de jog\u00e1-los para baixo. O modo como o algoritmo escolhe o que colocar no seu feed parece ser baseado em m\u00e9tricas prejudiciais \u00e0s pessoas. Ent\u00e3o precisamos colocar o benef\u00edcio do usu\u00e1rio como objetivo principal e isso vai fazer as coisas funcionarem melhor e as pessoas ficar\u00e3o felizes em usar seus sistemas.”<\/em><\/p><\/blockquote>\n

N\u00e3o haver\u00e1 uma resposta \u00fanica sobre o que \u00e9 “ben\u00e9fico”. Portanto, argumenta o pesquisador, os algoritmos ter\u00e3o de adaptar esse conceito para cada usu\u00e1rio, individualmente – uma tarefa que, ele pr\u00f3prio admite, n\u00e3o \u00e9 nada f\u00e1cil. “Na verdade, essa (\u00e1rea das redes sociais) seria uma das mais dif\u00edceis onde se colocar em pr\u00e1tica esse novo modelo de IA”, afirma.<\/p>\n

“Acho que realmente teriam que come\u00e7ar do zero a coisa toda. \u00c9 poss\u00edvel que acabemos entendendo a diferen\u00e7a entre manipula\u00e7\u00e3o aceit\u00e1vel e inaceit\u00e1vel. Por exemplo, no sistema educacional, manipulamos as crian\u00e7as para torn\u00e1-las cidad\u00e3os conhecedores, capazes, bem-sucedidos e bem integrados -, e consideramos isso aceit\u00e1vel. Mas se o mesmo processo tornasse as crian\u00e7as terroristas, seria uma manipula\u00e7\u00e3o inaceit\u00e1vel. Como, exatamente, diferenciar entre ambos? \u00c9 uma quest\u00e3o bem dif\u00edcil. As redes sociais realmente suscitam esses questionamentos bastante dif\u00edceis, que at\u00e9 fil\u00f3sofos t\u00eam dificuldade em responder.”<\/p>\n

 <\/p>\n

 <\/p>\n

Fonte: Paula Adamo Idoeta\/BBC\/G1<\/pre>\n","protected":false},"excerpt":{"rendered":"
Pesquisador Stuart Russel adverte que o modelo predominante de Intelig\u00eancia Artificial \u00e9, em sua opini\u00e3o, uma amea\u00e7a \u00e0 sobreviv\u00eancia dos seres humanos.     Stuart Russell, professor da Universidade da Calif\u00f3rnia em Berkeley, dedica-se h\u00e1 d\u00e9cadas ao estudo da Intelig\u00eancia Artificial (IA), mas tamb\u00e9m \u00e9 um de seus mais conhecidos cr\u00edticos – ao menos do […]<\/p>\n","protected":false},"author":3,"featured_media":938,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[46],"tags":[110],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/posts\/937"}],"collection":[{"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=937"}],"version-history":[{"count":0,"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/posts\/937\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/media\/938"}],"wp:attachment":[{"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=937"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=937"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/expressaoms.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=937"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}