Um Interlocutor

Recentemente, vem aparecendo cada vez mais manchetes e vídeos sobre inteligência artificial e seus riscos, até de extinção da humanidade. Nesse thread, vou tentar explicar melhor isso 🧵

Meio maluca a ideia, mas seria legal.

@izzynobre Então não sei, pra mim ele não delira tanto. Achei que você estava usando sem thinking, por causa dos emojis, kk. O modelo sem reasoning usa bastante emoji.

@UmInterlocutor Sempre no Thinking

o problema de usar ChatGPT pra criar conteúdo sobre lingua, fonética e prosódia é que ele delira 50% do tempo, sem exagero ele inventa regras, determina silabas tonicas incorretamente (como é o caso aí), transcreve errado no IPA. é praticamente imprestável pra conteúdo sobre lingua. chega a ser surpreendente toda vez que tentei usar pra roteirizar um conceito ele mete essas loucuras

The AI Scientist: Towards Fully Automated AI Research, Now Published in Nature Nature: nature.com/articles/s4158… Blog: sakana.ai/ai-scientist-n… When we first introduced The AI Scientist, we shared an ambitious vision of an agent powered by foundation models capable of executing the entire machine learning research lifecycle. From inventing ideas and writing code to executing experiments and drafting the manuscript, the system demonstrated that end-to-end automation of the scientific process is possible. Soon after, we shared a historic update: the improved AI Scientist-v2 produced the first fully AI-generated paper to pass a rigorous human peer-review process. Today, we are happy to announce that “The AI Scientist: Towards Fully Automated AI Research,” our paper describing all of this work, along with fresh new insights, has been published in @Nature! This Nature publication consolidates these milestones and details the underlying foundation model orchestration. It also introduces our Automated Reviewer, which matches human review judgments and actually exceeds standard inter-human agreement. Crucially, by using this reviewer to grade papers generated by different foundation models, we discovered a clear scaling law of science. As the underlying foundation models improve, the quality of the generated scientific papers increases correspondingly. This implies that as compute costs decrease and model capabilities continue to exponentially increase, future versions of The AI Scientist will be substantially more capable. Building upon our previous open-source releases (github.com/SakanaAI/AI-Sc…), this open-access Nature publication comprehensively details our system's architecture, outlines several new scaling results, and discusses the promise and challenges of AI-generated science. This substantial milestone is the result of a close and fruitful collaboration between researchers at Sakana AI, the University of British Columbia (UBC) and the Vector Institute, and the University of Oxford. Congrats to the team! @_chris_lu_ @cong_ml @RobertTLange @_yutaroyamada @shengranhu @j_foerst @hardmaru @jeffclune

The strategist's problem with AGI is not prediction but preparation. Forecasts have moved sharply nearer, from mid-century to the 2030s or sooner. The signal is consistent across independent methods. Yet no method inspires great confidence. This is the condition we must plan from. @RANDCorporation colleagues' new piece finds that effective strategy under such uncertainty requires three qualities: flexibility to pursue different objectives as circumstances evolve, adaptiveness to respond to unanticipated developments, and robustness to shocks. rand.org/pubs/research_…

Mais um problema matemático em aberto resolvido por LLMs. E esse foi bem checado pela @EpochAIResearch.

Acabei de publicar uma artigo no Substack sobre um mal-entendido muito comum na conversa popular sobre IA: A confusão de que conhecer o treinamento nos permite também entender o funcionamento interno de um modelo. Link ⤵️

Boa thread mostrando a incerteza (entre especialistas) de quando teremos AGI ou "IA transformativa".

@fravenriq algoritmo

só eu acho q o Paulo Gonet é o Reinaldo Azevedo sem boina? as bobagens q falam são as mesmas

Provas rigorosas de compreensão semântica acho que não tem, porque depende da definição de compreensão semântica (quase tudo nessas discussões depende de definição). Mas tem várias evidências que vão nessa direção, principalmente no campo da interpretabilidade de IA. Uma das mais didáticas é mostrada nesse texto aqui, em que uma rede transformer cria um modelo interno do jogo Othello apenas como consequência de prever a próxima jogada: thegradient.pub/othello/

@ggbianco_ @Jack_J_Flores Poderia nos mostrar as provas? Quero ver. E te falo isso não em tom de desafio, mas dando o benefício da dúvida mesmo. N sou dono da verdade e estou aberto ao debate

Acho que a galera ainda não entendeu como uma inteligência artificial funciona. Ela é uma tecnologia que trabalha com PROBABILIDADES - ou seja, tudo o que ela faz é calcular qual é a próxima palavra mais provável e vai formando frases assim. Quando a IA te entrega uma boa resposta, isso não significa que ela "entendeu o mundo". Apenas que aquela sequência de palavras tinha mais força estatística. E o que dita essa força? Os padrões dos seus dados de treinamento, que NÃO são auditáveis e estão sujeitos a todo tipo de vieses. Entender os limites de uma LLM é o primeiro passo pra usá-la bem

Ele sabe bastante da parte técnica, mas é um pouco dogmático, apresentando suas interpretações com unânimes, mesmo em pontos sem consenso entre os especialistas. Em relação a questão das LLMs "entenderem" ou não, sugiro dar uma olhada na visão do Geoffrey Hinton, que é um psicólogo que é o segundo cientista mais citado em IA, estudo o cérebro e IA a vida toda e ganhou o prêmio Nobel e Turing: youtube.com/watch?v=6fvXWG…

@edgar_training Convoco ele: @osupernerd! Ninguém explica esse assunto de forma mais didática do q o Caique

@berwerneck @Jack_J_Flores Acho que é uma analogia ruim, com todo respeito. Sugiro dar uma olhada nesse texto que linko nesse tweet: x.com/UmInterlocutor…

@Jack_J_Flores Acho que essa é uma boa analogia. Acrescentaria que esse papagaio é fantástico em resumir o que ouviu e em encontrar similaridades em diferentes conversas, mesmo que tenham ocorrido há muito tempo atrás

@Jack_J_Flores @berwerneck Sugiro dar uma olhada: x.com/UmInterlocutor…

@berwerneck Tentando fazer analogia (que sempre é imperfeita) com amigos sobre LLM eu disse que ela é como um super papagaio. Consegue reproduzir coisas de forma extraordinária, mas não tem compreensão alguma, vai reproduzir asneira se alimentada com asneira e o blackbox problem é real.

@kerberdiego O @ayubio sabe bastante do tema

Um vídeo sobre a Lei Felca é assunto grande demais pra mim desenrolar um roteiro. Mas um videocast com uma ou duas pessoas que tem opiniões embasadas não seria uma má ideia. 👀 Conhecem pessoas que mandariam bem no tema?

@iamchevyimpala @madeleinelacsko Mas faz tempo que está cheio de programas de controle parental. Por que não basta usá-los e incentivar seu uso? (na sua analogia, assim como "fique perto dos pais" não é lei)

@madeleinelacsko Na rua: “fique perto dos pais” Na internet: controle parental Os pais precisam estar cientes do tipo de conteúdo que os filhos consomem pra poder instruir e educar.

Não existe nem nunca existirá Internet segura para crianças. A Internet é a rua do século XXI. Crianças estão tão seguras na Internet quanto estão na rua. É preciso instruir os filhos para estar na Internet do mesmo jeito que fomos orientados a sair na rua.

Such a shame to see the tech space become so radically polarised. I've been receiving hate mail all evening simply for covering DLSS 5. It's blatantly obvious it has incredible potential and is one of the most exciting developments in recent years (and there's been fierce competition for that spot). Incredibly short-sighted for people to dismiss it for minor and misinformed points, and to turn any discourse about it into a witchhunt. The tech community deserves better.

@JefinhoMenes Seja sincero, acha que exigir que milhares de sites tenham alguma forma de coletar dados documentais/biométricos de todos seus usuários melhora ou piora a situação?

Sim. E quando é atendido em hospital. Ou quando entra em prédio com portaria eletrônica Ou prédio comercial. Ou assina internet. Ou até a sua VPN… Mas tem gente que realmente jura que o Estado - e só o Estado - não tem como encontrar você se realmente ele quiser.

O melhor texto que vi até hoje mostrando os problemas do paper e da analogia de que LLMs são "só" papagaios estocásticos, que não entendem nada do que repetem. Mas ele reconhece que o paper tem partes boas.

Não era uma crítica, nem quis dizer que tinha um excesso de acho, nem estranhei nada. Eu realmente estava elogiando, kk. Não sei muito sobre jornalismo, e realmente fiquei em dúvida de falar "jornalismo de opinião", mas já vi o Pedro Dória falando, então achei que existia. Mas a minha pergunta do "OBS" continua.

“Jornalismo de opinião” é, certamente no Brasil, um oximoro. Jornalistas *reportam*, então por definição não emitem qualquer tipo de opinião. Às vezes jornalistas ocupam o papel de “opinadores”. Quando é o caso, eles podem falar o que eles consideram ser verdade — sempre baseado no que reportaram. É o que a gente vê bastante na TV hoje, mas também em newsletters. No jornalismo americano existe uma tradição do “reported essay”, que é do gênero “ensaio”, mas que não é mera crônica, pois envolve pesquisa e análise. É o que eu faço. Há um excesso de “acho”, de fato, mas isso é mais um traço de A) eu efetivamente valorizo a incerteza e B) oralidade — se tivesse num podcast ninguém estranharia. Então é cacoete estilístico. =)

Só os brasileiros do LinkedIn parecem se importar muito com o SXSW, mas achei relevante que a futurista queridinha da galera decidiu matar o seu "relatório de tendências". No meu Substack: cointeligencia.substack.com/p/o-futuro-mor…