白金鉱業.FM

72.「学習と推論の時間を劇的に減らせる？QLoRA」と「ユーザープライバシー保護に使いたいMachine Unlearning」の話

Listen Later

感想などは白金鉱業.FMのハッシュタグ #白金鉱業fm につぶやいてもらえるととても喜びます！

匿名でのお便りもgoogle formにてお待ちしております！
—

目次
  • 00:00～：イントロ+LLMプロジェクトの振り返り
  • 03:00～：QLoRAの話
  • 12:30～：Machine Unlearningの話
    • show notes
    • LLM研究プロジェクト　ブログ記事一覧 - Platinum Data Blog by BrainPad
    • QLoRA：4ビット量子化したLLaMAモデルをベースに、Low-rank adapterを用いて微調整を行う手法
      • 論文：QLoRA: Efficient Finetuning of Quantized LLMs
      • PEFTのブログ：LLMを効率的に再学習する手法(PEFT)を解説 - Platinum Data Blog by BrainPad
      • Machine Unlearning：学習済みモデルから学習データのサブセットの影響を除去する
        • 提唱の背景：学習済みモデルの使用に伴う不公平なバイアス・ユーザープライバシーの保護などのリスクに上手く対応したい
        • 論文：A Survey of Machine Unlearning
          • ...more
          View all episodesView all episodes
          Download on the App Store
          白金鉱業.FMBy 白金鉱業

          More shows like 白金鉱業.FM

          View all
          Rebuild by Tatsuhiko Miyagawa

          Rebuild

          51 Listeners

          backspace.fm by backspace.fm

          backspace.fm

          12 Listeners

          regonn&curry.fm - 最新の生成AI動向を週刊でお届け - by 恋言(@regonn_haizine), カレーちゃん(@currypurin)

          regonn&curry.fm - 最新の生成AI動向を週刊でお届け -

          0 Listeners

          歴史を面白く学ぶコテンラジオ （COTEN RADIO） by COTEN inc.

          歴史を面白く学ぶコテンラジオ （COTEN RADIO）

          224 Listeners

          PRESIDENT Online 音声版 by プレジデント社

          PRESIDENT Online 音声版

          18 Listeners

          佐々木亮の宇宙ばなし by 佐々木亮

          佐々木亮の宇宙ばなし

          1 Listeners

          ゆる言語学ラジオ by Yuru Gengogaku Radio

          ゆる言語学ラジオ

          51 Listeners

          ひまじんプログラマーの週末エンジニアリングレッスン by ひまじんプログラマー

          ひまじんプログラマーの週末エンジニアリングレッスン

          0 Listeners

          ゆるコンピュータ科学ラジオ by ゆるコンピュータ科学ラジオ

          ゆるコンピュータ科学ラジオ

          17 Listeners

          News Connect あなたと経済をつなぐ5分間 #ニュースコネクト by Chronicle

          News Connect あなたと経済をつなぐ5分間 #ニュースコネクト

          19 Listeners

          安住紳一郎の日曜天国 by TBS RADIO

          安住紳一郎の日曜天国

          144 Listeners

          入山章栄の経営理論でイシューを語ろう/Business Insider Japan by Business Insider Japan

          入山章栄の経営理論でイシューを語ろう/Business Insider Japan

          2 Listeners

          となりのデータ分析屋さん by 佐々木亮とたっちゃん

          となりのデータ分析屋さん

          0 Listeners

          耳で学ぶAI、ロボシンク by 矢野 哲平

          耳で学ぶAI、ロボシンク

          0 Listeners

          ながらAIラジオ by usutaku/gomichan

          ながらAIラジオ

          0 Listeners