大規模言語モデルを簡単に理解する

大規模言語モデルを簡単に理解する

Update: 2023-07-31
Share

Description

【話した内容】


- 大規模言語モデルとは何か


- 大規模言語モデルは何を可能にするか


- どのような方法で生成をしているか


- 今までと何が違うか


- GPT3からのパラメータが大量に増加


- べき条則


- RLHF(reinforcement learning from human feedback)




【参考】


大規模言語モデルは新たな知能か――ChatGPTが変えた世界 (岩波科学ライブラリー)
https://amzn.asia/d/1AL1AaZ

JSAI2023 Tutorial 「基盤モデルの技術と展望」
https://speakerdeck.com/yusuke0519/jsai2023-tutorial-ji-pan-moderunoji-shu-tozhan-wang




【音楽・効果音】
BGMer
https://bgmer.net

On-Jin ~音人~
https://on-jin.com/




【しんいちろうプロフィール】


- データサイエンティスト的な仕事


- SaaS企業勤務


- 前職、前々職はSIer




【ばらっとプロフィール】


- ITコンサル


- 元々SIer




※ ばらっとさんの声にはボイスチェンジャーをかけています。



Comments 
00:00
00:00
x

0.5x

0.8x

1.0x

1.25x

1.5x

2.0x

3.0x

Sleep Timer

Off

End of Episode

5 Minutes

10 Minutes

15 Minutes

30 Minutes

45 Minutes

60 Minutes

120 Minutes

大規模言語モデルを簡単に理解する

大規模言語モデルを簡単に理解する

慎一朗