DiscoverVida com IA#75- Mixtral e Mixture Of Experts.
#75- Mixtral e Mixture Of Experts.

#75- Mixtral e Mixture Of Experts.

Update: 2024-01-181
Share

Description

Fala galera, nesse episódio eu falo sobre Mixture Of Experts e mais espeicificamente sobre o Mixtral, que hoje é o melhor LLM open source disponível e ele também é melhor que ChatGPT 3.5 e o Gemini Pro.




Mixtral paper: https://arxiv.org/pdf/2401.04088.pdf


Mixtral model: https://huggingface.co/mistralai/Mixtral-8x7B-v0.1


Mixtral YouTube: https://www.youtube.com/watch?v=mwO6v4BlgZQ


Instagram: https://www.instagram.com/podcast.lifewithai


Linkedin: https://www.linkedin.com/company/life-with-ai

Comments 
Top Podcasts
The Best New Comedy Podcast Right Now – June 2024The Best News Podcast Right Now – June 2024The Best New Business Podcast Right Now – June 2024The Best New Sports Podcast Right Now – June 2024The Best New True Crime Podcast Right Now – June 2024The Best New Joe Rogan Experience Podcast Right Now – June 20The Best New Dan Bongino Show Podcast Right Now – June 20The Best New Mark Levin Podcast – June 2024
In Channel
#94- OpenAI o1.

#94- OpenAI o1.

2024-09-1911:50

#93- Diferentes tipos de IA.

#93- Diferentes tipos de IA.

2024-09-1215:52

#Extra- Investimentos.

#Extra- Investimentos.

2024-08-2931:48

#92- Llama3 benchmarks, visão e audio.

#92- Llama3 benchmarks, visão e audio.

2024-08-2230:02

#91- Treinamento do Llama 3.

#91- Treinamento do Llama 3.

2024-08-1526:13

#90- Llama 3 visão geral do paper.

#90- Llama 3 visão geral do paper.

2024-07-2516:11

#89- Como escolher o melhor modelo de IA para o seu problema?

#89- Como escolher o melhor modelo de IA para o seu problema?

2024-07-1811:03

#88- Stable Diffusion.

#88- Stable Diffusion.

2024-07-1110:10

#87- Modelos de difusão, o algoritmo por trás do Midjourney, Dall-e e Stable Diffusion.

#87- Modelos de difusão, o algoritmo por trás do Midjourney, Dall-e e Stable Diffusion.

2024-07-0413:36

#86- CLIP, SigLIP e JinaCLIP.

#86- CLIP, SigLIP e JinaCLIP.

2024-06-2714:28

#85- Constrastive learning e similaridade de cosseno.

#85- Constrastive learning e similaridade de cosseno.

2024-06-2013:17

#84- FineWeb, o melhor dataset pra pre-treinar LLMs.

#84- FineWeb, o melhor dataset pra pre-treinar LLMs.

2024-06-1313:51

#83- LLM Copilot com Joao da Stackspot AI.

#83- LLM Copilot com Joao da Stackspot AI.

2024-06-0631:36

#82- BitNet, Transformers com 1 bit.

#82- BitNet, Transformers com 1 bit.

2024-05-3010:20

#81- Llama 3.

#81- Llama 3.

2024-04-1910:57

#80- Layer pruning e Mixture of Depths.

#80- Layer pruning e Mixture of Depths.

2024-04-1815:12

#79- LoRA e QLoRA.

#79- LoRA e QLoRA.

2024-04-1114:45

#78- RAFT: Unindo RAG com fine tuning.

#78- RAFT: Unindo RAG com fine tuning.

2024-03-2109:42

#77- Ring Attention e janelas de contexto de 1M, o RAG está morto?

#77- Ring Attention e janelas de contexto de 1M, o RAG está morto?

2024-03-0717:29

#76- Resolvendo problemas usando IA com André Lopes.

#76- Resolvendo problemas usando IA com André Lopes.

2024-02-2246:41

loading
Google Play
Download from Google Play
Castbox
Download from App Store
usUnited States
00:00
00:00
x

0.5x

0.8x

1.0x

1.25x

1.5x

2.0x

3.0x

Sleep Timer

Off

End of Episode

5 Minutes

10 Minutes

15 Minutes

30 Minutes

45 Minutes

60 Minutes

120 Minutes

#75- Mixtral e Mixture Of Experts.

#75- Mixtral e Mixture Of Experts.

Filipe Lauar