Todos acham que sabem, mas ninguém consegue concordar. E isso é um problema.
Maldade na Internet, xingamentos e outras divergências não tão insignificantes, mas que podem mudar o mundo A IA é sexy, a IA é legal. A IA está entrincheirando a desigualdade, virando o mercado de trabalho de cabeça para baixo e destruindo a educação. A IA é um passeio de parque temático, a IA é um truque de mágica. A IA é nossa invenção final, a IA é uma obrigação moral. A IA é a palavra da moda da década, a IA é um jargão de marketing de 1955. A IA é humana, a IA é alienígena. A IA é superinteligente e tão burra quanto sujeira.
O boom da IA impulsionará a economia, a bolha da IA está prestes a estourar. A IA aumentará a abundância e capacitará a humanidade a florescer ao máximo no universo. A IA matará todos nós. Do que diabos todo mundo está falando? A inteligência artificial é a tecnologia mais quente do nosso tempo. Mas o que é? Parece uma pergunta idiota, mas é uma que nunca foi tão urgente. Aqui está a resposta curta: IA é um termo genérico para um conjunto de tecnologias que fazem os computadores fazerem coisas que são consideradas como exigindo inteligência quando feitas por pessoas. Pense em reconhecer rostos, entender a fala, dirigir carros, escrever frases, responder perguntas, criar imagens.
Mas mesmo essa definição contém multidões. E aí está o problema. O que significa para as máquinas entender a fala ou escrever uma frase? Que tipos de tarefas poderíamos pedir para essas máquinas fazerem? E até que ponto deveríamos confiar nas máquinas para fazê-las?
À medida que essa tecnologia passa de protótipo para produto cada vez mais rápido, essas se tornaram perguntas para todos nós. Mas (spoilers!) eu não tenho as respostas. Eu nem consigo te dizer o que é IA. As pessoas que a fazem também não sabem o que é IA. Na verdade, não. “Esses são os tipos de perguntas que são importantes o suficiente para que todos sintam que podem ter uma opinião”, diz Chris Olah, cientista-chefe do laboratório de IA Anthropic, sediado em São Francisco. “Eu também acho que você pode discutir sobre isso o quanto quiser e não há nenhuma evidência que vá contradizê-lo agora.” Mas se você estiver disposto a apertar o cinto e embarcar nessa, posso lhe dizer por que ninguém realmente sabe, por que todo mundo parece discordar e por que você está certo em se importar com isso. Vamos começar com uma piada casual.
Em 2022, no meio do primeiro episódio do Mystery AI Hype Theater 3000 , um podcast de estraga-prazeres no qual os irascíveis coapresentadores Alex Hanna e Emily Bender se divertem muito enfiando “as agulhas mais afiadas” em algumas das vacas sagradas mais infladas do Vale do Silício, eles fazem uma sugestão ridícula. Eles estão lendo em voz alta um texto de ódio de uma postagem de 12.500 palavras no Medium de um vice-presidente de engenharia do Google, Blaise Agüera y Arcas, intitulado “As máquinas podem aprender a se comportar? ” Agüera y Arcas argumenta que a IA pode entender conceitos de uma forma que é de alguma forma análoga à forma como os humanos entendem conceitos — conceitos como valores morais. Em suma, talvez as máquinas possam ser ensinadas a se comportar.
Hanna e Bender não estão nem aí. Eles decidem substituir o termo “IA” por “matemática matemática” — você sabe, muita e muita matemática. A frase irreverente tem a intenção de desmoronar o que eles veem como bombástico e antropomorfismo nas frases citadas.
Logo, Hanna, uma socióloga e diretora de pesquisa no Distributed AI Research Institute, e Bender, um linguista computacional na Universidade de Washington (e crítico famoso na internet do hype da indústria de tecnologia), abrem um abismo entre o que Agüera y Arcas quer dizer e como eles escolhem ouvir. “Como as IAs, seus criadores e seus usuários devem ser responsabilizados moralmente?”, pergunta Agüera y Arcas.
Como a matemática deve ser responsabilizada moralmente? pergunta Bender. “Há um erro de categoria aqui”, ela diz. Hanna e Bender não apenas rejeitam o que Agüera y Arcas diz; eles alegam que não faz sentido. “Podemos, por favor, parar com o ‘uma IA’ ou ‘as IAs’ como se fossem, tipo, indivíduos no mundo?” Bender diz.
Pode parecer que eles estão falando sobre coisas diferentes, mas não estão. Ambos os lados estão falando sobre grandes modelos de linguagem, a tecnologia por trás do atual boom da IA. É que a maneira como falamos sobre IA está mais polarizada do que nunca. Em maio, o CEO da OpenAI, Sam Altman, provocou a atualização mais recente do GPT-4 , o modelo principal de sua empresa, ao tuitar : “Parece mágica para mim”. Há muito caminho entre matemática e magia.
A IA tem acólitos, com uma crença quase religiosa no poder atual da tecnologia e na inevitável melhoria futura. A inteligência artificial geral está à vista, eles dizem; a superinteligência está vindo por trás dela. E tem hereges, que menosprezam tais alegações como um jargão místico. A narrativa popular agitada é moldada por um panteão de grandes nomes, desde os principais marqueteiros da Big Tech como Sundar Pichai e Satya Nadella até os edgelords da indústria como Elon Musk e Altman e cientistas da computação famosos como Geoffrey Hinton . Às vezes, esses impulsionadores e pessimistas são a mesma coisa, nos dizendo que a tecnologia é tão boa que é ruim .
À medida que o hype da IA cresceu, um lobby anti-hype vocal se levantou em oposição, pronto para derrubar suas alegações ambiciosas, muitas vezes selvagens. Puxando nessa direção estão uma série de pesquisadores, incluindo Hanna e Bender, e também críticos francos da indústria, como o influente cientista da computação e ex-Googler Timnit Gebru e o cientista cognitivo da NYU Gary Marcus. Todos têm um coro de seguidores discutindo em suas respostas. Em suma, a IA passou a significar todas as coisas para todas as pessoas, dividindo o campo em fandoms.
Pode parecer que diferentes campos estão falando uns com os outros, nem sempre de boa fé. Talvez você ache tudo isso bobo ou cansativo. Mas dado o poder e a complexidade dessas tecnologias — que já são usadas para determinar quanto pagamos por seguro, como buscamos informações, como fazemos nosso trabalho, etc. etc. etc. — já passou da hora de pelo menos concordarmos sobre o que estamos falando. No entanto, em todas as conversas que tive com pessoas na vanguarda dessa tecnologia, ninguém deu uma resposta direta sobre exatamente o que estão construindo. (Uma observação rápida: este artigo se concentra no debate sobre IA nos EUA e na Europa, em grande parte porque muitos dos laboratórios de IA mais bem financiados e de ponta estão lá. Mas é claro que há pesquisas importantes acontecendo em outros lugares também, em países com suas próprias perspectivas variadas sobre IA, particularmente a China.)
Em parte, é o ritmo de desenvolvimento. Mas a ciência também está bem aberta. Os grandes modelos de linguagem de hoje podem fazer coisas incríveis . O campo simplesmente não consegue encontrar um ponto em comum sobre o que realmente está acontecendo por baixo dos panos . Esses modelos são treinados para completar frases. Eles parecem ser capazes de fazer muito mais — desde resolver problemas de matemática do ensino médio até escrever códigos de computador, passar em exames de direito e compor poemas. Quando uma pessoa faz essas coisas, nós as tomamos como um sinal de inteligência. E quando um computador faz isso? A aparência de inteligência é suficiente?
Essas perguntas vão ao cerne do que queremos dizer com “inteligência artificial”, um termo sobre o qual as pessoas vêm discutindo há décadas. Mas o discurso em torno da IA se tornou mais acirrado com o surgimento de grandes modelos de linguagem que podem imitar a maneira como falamos e escrevemos com realismo emocionante/assustador (exclua o que não for aplicável). Nós construímos máquinas com comportamento semelhante ao humano, mas não nos livramos do hábito de imaginar uma mente semelhante à humana por trás delas. Isso leva a avaliações exageradas do que a IA pode fazer; endurece reações viscerais em posições dogmáticas e joga nas guerras culturais mais amplas entre tecno-otimistas e tecno-céticos. Adicione a esse ensopado de incertezas um caminhão de bagagem cultural, desde a ficção científica com a qual aposto que muitos na indústria foram criados, até ideologias muito mais malignas que influenciam a maneira como pensamos sobre o futuro. Dada essa mistura inebriante, os argumentos sobre IA não são mais simplesmente acadêmicos (e talvez nunca tenham sido). A IA inflama as paixões das pessoas e faz os adultos xingarem uns aos outros.
“Não está em um lugar intelectualmente saudável agora”, diz Marcus sobre o debate. Por anos, Marcus apontou as falhas e limitações do aprendizado profundo, a tecnologia que lançou a IA para o mainstream, impulsionando tudo, desde LLMs até reconhecimento de imagem e carros autônomos.
Seu livro de 2001, The Algebraic Mind, argumentou que as redes neurais, a base sobre a qual o aprendizado profundo é construído, são incapazes de raciocinar por si mesmas. (Vamos pular isso por enquanto, mas voltarei a isso mais tarde e veremos o quanto uma palavra como “raciocínio” importa em uma frase como esta.) Marcus diz que tentou envolver Hinton — que no ano passado tornou público seus medos existenciais sobre a tecnologia que ajudou a inventar — em um debate apropriado sobre quão bons os modelos de linguagem grande realmente são. “Ele simplesmente não faz isso”, diz Marcus. “Ele me chama de idiota.” (Tendo conversado com Hinton sobre Marcus no passado, posso confirmar isso. “O ChatGPT claramente entende redes neurais melhor do que ele”, Hinton me disse no ano passado.)
Marcus também atraiu ira quando escreveu um ensaio intitulado “Aprendizado profundo está batendo em uma parede”. Altman respondeu a isso com um tweet : “Dê-me a confiança de um cético medíocre do aprendizado profundo.” Ao mesmo tempo, insistir fez de Marcus uma marca única e lhe rendeu um convite para sentar-se ao lado de Altman e prestar depoimento no ano passado perante o comitê de supervisão de IA do Senado dos EUA. E é por isso que todas essas brigas importam mais do que a maldade média da internet.
Claro, há grandes egos e vastas somas de dinheiro em jogo. Mas mais do que isso, essas disputas importam quando líderes da indústria e cientistas opinativos são convocados por chefes de estado e legisladores para explicar o que essa tecnologia é e o que ela pode fazer (e o quão assustados deveríamos estar). Elas importam quando essa tecnologia está sendo incorporada ao software que usamos todos os dias, de mecanismos de busca a aplicativos de processamento de texto e assistentes no seu telefone. A IA não vai desaparecer. Mas se não sabemos o que estão nos vendendo, quem é o enganado?
“É difícil pensar em outra tecnologia na história sobre a qual tal debate poderia ser travado — um debate sobre se ela está em todo lugar ou em lugar nenhum”, escrevem Stephen Cave e Kanta Dihal em Imagining AI , uma coleção de ensaios de 2023 sobre como diferentes crenças culturais moldam as visões das pessoas sobre a inteligência artificial.
“Que isso possa ser sustentado sobre a IA é um testamento de sua qualidade mítica.” Acima de tudo, a IA é uma ideia — um ideal — moldada por visões de mundo e tropos de ficção científica, tanto quanto por matemática e ciência da computação. Descobrir do que estamos falando quando falamos sobre IA esclarecerá muitas coisas. Não concordaremos com elas, mas um ponto em comum sobre o que é IA seria um ótimo lugar para começar a falar sobre o que a IA deveria ser .