Discover白金鉱業.FM70. LLM回2回目!ChatGPTプラグインとクレームっぽい名前の論文?そして世界中でバズったDrag Your GANなど!
70. LLM回2回目!ChatGPTプラグインとクレームっぽい名前の論文?そして世界中でバズったDrag Your GANなど!

70. LLM回2回目!ChatGPTプラグインとクレームっぽい名前の論文?そして世界中でバズったDrag Your GANなど!

Update: 2023-05-28
Share

Description

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます!

匿名でのお便りもgoogle formにてお待ちしております!


目次




※ podcastの各プラットフォームでは下記詳細が見切れることがあります。

 その場合は白金鉱業FMホームページをご参照ください。



00:27 ~:ブレインパッドの「LLM/Generative AIに関する研究プロジェクト」




06:07 〜:ChatGPTのプラグイン


5/12に、有料版の「ChatGPT Plus」ユーザー向けに、Webブラウジング機能とサードパーティプラグインのベータ版が提供開始されました。早速いくつかのプラグインを試した金さんにお話を伺いました。



  • ブラウジング機能 → β版

    • Bing Chat

    • 検索 → クリック → コンテンツを読む

    • 回答のソースがわかるのでより信憑性のある会話ができる



  • Code interpreter → α版



24:00 〜:プロンプトエンジニアリングの論文


Plan-and-Solve Prompting: Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models



  • CoTのようにstep-by-stepで考えるのではなく、一度小さいタスクを洗い出してから順に実行するPlan-and-Solve Promptを提案した論文

  • LLMも計画性がある思考の方が性能が出しやすい模様
    https://blog.langchain.dev/plan-and-execute-agents/



30:36 〜:Inverse Scaling Law(クレームっぽい名前?)の論文


An Inverse Scaling Law for CLIP Training



  • 従来の認識:画像/テキストエンコーダの規模が大きいほど、トレーニングに必要な画像/テキストトークンのシーケンス長も同様に長くなり、その結果、大規模な計算リソースが必要となると考えられていた

  • 「Inverse Scaling Law」の発見で分かったこと:エンコーダの規模が大きくなるほど、トレーニングに適用できる画像/テキストトークンのシーケンスの長さを逆に短くできるということが明らかになった

  • 今後期待できること:CLIPのトレーニングが計算リソースが限られた環境でも可能となりフィールドに新たな進歩をもたらす可能性がある

  • OpenBPのTwitterアカウントで共有したWhisperをTPUとJAXで最適化したら70倍速くなった話



42:38 〜:世界中でバズったDrag Your GAN


Drag Your GAN: Interactive Point-based Manipulation on the
Generative Image Manifold



  • ハンドルポイントとターゲットポイントをクリックするだけで、画像を生成。

  • ライオンの口内の歯などの隠れたコンテンツも再現可能

  • 馬の脚の曲げなどオブジェクトの剛性に従って変形することもできる

Comments 
In Channel
loading
00:00
00:00
x

0.5x

0.8x

1.0x

1.25x

1.5x

2.0x

3.0x

Sleep Timer

Off

End of Episode

5 Minutes

10 Minutes

15 Minutes

30 Minutes

45 Minutes

60 Minutes

120 Minutes

70. LLM回2回目!ChatGPTプラグインとクレームっぽい名前の論文?そして世界中でバズったDrag Your GANなど!

70. LLM回2回目!ChatGPTプラグインとクレームっぽい名前の論文?そして世界中でバズったDrag Your GANなど!

白金鉱業