Claim OwnershipVida com IA
Subscribed: 18Played: 484
Subscribe
© Filipe Lauar
Description
Um podcast sobre inteligência artificial de uma forma simples. Explicando algoritmos e mostrando como ela está presente no nosso dia a dia.
85 Episodes
Reverse
Fala galera, nesse episódio do podcast eu falo sobre o dataset FineWeb, o melhor dataset open source de pre-treinamento existente até hoje. No episódio eu explico como eles fizeram a curadoria do dataset e um pouco dos resultados.
Link pro grupo do whatsapp: https://chat.whatsapp.com/GNLhf8aCurbHQc9ayX5oCP
Link do blog da huggingface: https://huggingface.co/spaces/HuggingFaceFW/blogpost-fineweb-v1
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu falo com o João Batista, Technical Product Manager da Stackspot AI. No episódio a gente falou bastante sobre o uso de LLMs como um copilot usando os próprios documentos da empresa para dar as respostas usando RAG.
A gente falou tanto de aspectos técnicos como de produto, como qual métrica de similaridade pro RAG, quantos documentos usar, como mostrar a resposta e como metrificar a qualidade.
Linkedin do Joao: https://www.linkedin.com/in/joaobatista-cordeironeto/
Linkedin da Stackspot AI: https://www.linkedin.com/company/stackspot/
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu falo de 2 papers, BitNet e 1.58 Transformers. Esses 2 papers da Microsoft apresentar uma nova receita de como treinar Transformers com apenas 1 bit, diminuindo muito o consumo de memória e energia, assim como o tempo de inferencia.
BitNet paper: https://arxiv.org/pdf/2310.11453
1.58 bit paper: https://arxiv.org/pdf/2402.17764
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Episódio extra falando sobre o lançamento do Llama 3!!!
Fala galera, continuando a serie de episódios sobre PEFT, nesse episoódio eu falo sobre tecnicas de otimização de inferência em LLMs.
Eu falo de layer pruning, onde a gente corta algumas camadas consecutivas da rede sem perder quase nada de qualidade do modelo.
Eu falo também sobre Mixture of Depths, uma tecnica semelhante ao Mixture of Experts, onde a gente usa um routing pra escolher quais tokens vão ser processados em qual camada da rede.
Paper MoD: https://arxiv.org/pdf/2404.02258.pdf
Paper layer pruning: https://arxiv.org/pdf/2403.17887v1.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, esse é um primeiro episódio de uma série de episódios sobre PEFT, Parameter Efficient Fine Tuning. Nele eu falo sobre LoRA e QLoRA, que são 2 métodos muito importantes e amplamente utilizados que possibilitam o treinamento de LLMs bem mais rápido com o uso de apenas 1 GPU sem perder perfomance.
Video sobre QLoRA: https://www.youtube.com/watch?v=6l8GZDPbFn8
LoRA paper: https://arxiv.org/pdf/2106.09685.pdf
QLoRA paper: https://arxiv.org/pdf/2305.14314.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse expiódio eu falo sobre Retrieval Aware Fine Tuning (RAFT), um paper que propos uma nova técnica que utiliza tanto domain specific fine tuning quanto RAG pra melhorar a capacidade de recuperação da informação dos LLMs.
Nesse epiódio eu também falo sobre um outro paper que também tem o nome de RAFT, mas dessa vez Reward rAnking Fine Tuning, que propoe uma nova técnica para fazer RLHF mas sem os problemas de convergencia de Reinforcement Learning.
Retrieval Aware Fine Tuning: https://arxiv.org/abs/2403.10131v1
Reward rAnking Fine Tuning: https://arxiv.org/pdf/2304.06767.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu explico como a gente consegue escalar a janela de contexto de um LLM pra mais de 1 milhão de tokens usando Ring Attention. Além disso eu discuto se a abordagem usando RAG está morta com esses avanços na janela de contexto.
Paper Lost in the Middle: https://arxiv.org/pdf/2307.03172.pdf
Gemini technical report: https://storage.googleapis.com/deepmind-media/gemini/gemini_v1_5_report.pdf
Paper Ring Attention: https://arxiv.org/pdf/2310.01889.pdf
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu recebi o André, ele é AI expert na IBM e a gente falou bastante sobre como usar IA pra resolver diversos problemas na industria.
Site da Brains: https://brains.dev/
Linkedin do Andre: https://www.linkedin.com/in/andrefelipelopes/
Linkedin da Brains: https://www.linkedin.com/company/brains-brazilian-ai-networks/
Instagram do podcast: https://www.instagram.com/podcast.lifewithai
Linkedin do podcast: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu falo sobre Mixture Of Experts e mais espeicificamente sobre o Mixtral, que hoje é o melhor LLM open source disponível e ele também é melhor que ChatGPT 3.5 e o Gemini Pro.
Mixtral paper: https://arxiv.org/pdf/2401.04088.pdf
Mixtral model: https://huggingface.co/mistralai/Mixtral-8x7B-v0.1
Mixtral YouTube: https://www.youtube.com/watch?v=mwO6v4BlgZQ
Instagram: https://www.instagram.com/podcast.lifewithai
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, na versão em ingles do podcast eu entrevistei o Sergei e a gente falou bastante sobre NLP e mais especificamente o problem de Named Entity Recognition (NER). O Sergei e o time dele na NuMind publicaram um artigo sobre o modelo fundamental de NER deles que bateu e muito o estado da arte e a gente conversou sobre esse modelo na entrevista.
Modelo em ingles: https://huggingface.co/numind/generic-entity_recognition_NER-v1
Modelo multi-language: https://huggingface.co/numind/generic-entity_recognition_NER-multilingual-v1
Linkedin do Sergei: https://www.linkedin.com/in/svbogdanov/
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu explico tudo que sei sobre Transformers. Falo da arquitetura, explico a formula de atenção, encoder, decoder, self-supervised learning, positional encoding, tokenisation, inductive bias, Vision-Transformers, receiptive fields...
Foi o episódio mais tecnico que eu ja gravei e eu espero que voces gostem! Vale a pena escutar esse episódio com o paper do transformer aberto.
Paper Transformers: https://arxiv.org/pdf/1706.03762.pdf
Link do video explicando Next Token Prediction: https://www.linkedin.com/posts/zainhas_the-most-clearest-and-crisp-explanation-ugcPost-7132561633280692224-63AX?utm_source=share&utm_medium=member_desktop
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu explico o que é RAG (Retrieval Augmented Generation) e o conceito de agentes que executam tarefas.
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu entrevistei o Daniel, CTO da WeClever, e a gente conversou sobre como eles estão usando IA para melhorar a experiência dos chat bots. Durante a conversa a gente falou sobre fine tuning do ChatGPT, LoRA, RAG… foi uma conversa muito massa e eu espero que voces gostem!
WeClever: https://www.linkedin.com/company/wecleverco/
Daniel Linkedin: https://www.linkedin.com/in/dmerlimorais/
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, esse episódio ficou bem massa! Eu dou várias dicas tanto de entrevista tecnica quanto de entrevista comportamental.
Na parte de entrevista tecnica eu falo do que mais cai e sempre é bom saber e também dos maiores erros tecnicos que as pessoas cometem nas entrevista e explico eles. Na parte comportamental eu falo um pouco sobre a visão do entrevistador do que não pode faltar!
Aproveitem que esse episódio em portugues eu falei literalmente tudo, no episódio em ingles eu não pude falar algumas coisas pra não prejudicar as nossas entrevistas na Qantev.
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
1Fala galera, essa foi uma aula que eu dei em um evento falando sobre como treinar algoritmos de IA de maneira supervisionada e self-supervisionada, como funciona a tokenização do texto, como o ChatGPT foi treinado, falei também sobre inteligência de documento e algumas aplicações de IA.
Foi um episódio bem denso em conteúdo e eu espero que voces gostem!
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu dou dicas de como extrair ao máximo do ChatGPT. Eu falo de técnicas como chain of thought, zero shot, few shot...
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio eu percorri o documento vazado sobre o GPT4 explicando diferentes pontos da arquitetura, treinamento, inferencia e dataset. O episódio ficou bem legal, curioso e um pouco técnico!
Instagram: https://www.instagram.com/podcast.lifewithai/
Linkedin: https://www.linkedin.com/company/life-with-ai
Fala galera, nesse episódio do podcast eu recebi o Juliemar, diretor de produto da Amicci e a gente conversou bastante sobre produtos de marca própria, marketplace e como usar as APIs da OpenAI pra criar seus próprios produtos. Na Amicci eles tem várias aplicações bem legais utilizando IA e o Juliemar falou um pouquinho sobre elas durante o episódio!
Linkedin do Juliemar: https://www.linkedin.com/in/juliemarberri/
Site da Amicci: https://amicci.com.br/
LinkedIn do Podcast: https://www.linkedin.com/company/life-with-ai
Instagram do Podcast : https://www.instagram.com/podcast.lifewithai/
Fala galera, nesse episódio do podcast eu entrevistei o Vinicius, CEO da MadeinWEB. No episódio a gente falou bastante sobre transformação digital e o uso de IA no agro e na pecuária. Também falamos sobre como os serviços de nuvem (cloud) estão democratizando o acesso a tecnologia.
LinkedIn do Vinicius: https://www.linkedin.com/in/vgallafrio/
LinkedIn da MadeinWeb: https://www.linkedin.com/company/madeinweb-mobile/
LinkedIn do podcast: https://www.linkedin.com/company/life-with-ai
Instagram do podcast: https://www.instagram.com/podcast.lifewithai/
Comments
Download from Google Play
Download from App Store
United States