#133: Triton: An Intermediate Language And Compiler For Tiled Neural Network Computations Misreading Chat podcast

22:08

Host Francesca Amiker sits down with directors Joe and Anthony Russo, producer Angela Russo-Otstot, stars Millie Bobby Brown and Chris Pratt, and more to uncover how family was the key to building the emotional core of The Electric State . From the Russos’ own experiences growing up in a large Italian family to the film’s central relationship between Michelle and her robot brother Kid Cosmo, family relationships both on and off of the set were the key to bringing The Electric State to life. Listen to more from Netflix Podcasts . State Secrets: Inside the Making of The Electric State is produced by Netflix and Treefort Media.…

Todos los episodios

Misreading Chat

1
#143 – SWE-bench: Can Language Models Resolve Real-World GitHub Issues? 36:07

hace 16 weeks36:07

36:07

GitHub の Issue を読んでバグを直すエーアイについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2310.06770] SWE-bench: Can Language Models Resolve Real-World GitHub Issues? [2405.15793] SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering SWE-bench Introducing SWE-bench Verified | OpenAI The new Claude 3.5 Sonnet, Computer Use, and Building SOTA Agents — with Erik Schluntz, Anthropic…

Misreading Chat

1
#142: An Empirical Study of Rust-for-Linux: The Success, Dissatisfaction, and Compromise 54:05

hace 17 weeks54:05

54:05

Rust を Linux カーネルへで使う取り組みの進捗を向井がウォッチしました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 An Empirical Study of Rust-for-Linux: The Success, Dissatisfaction, and Compromise | USENIX Rust for Linux

Misreading Chat

1
#141: SQL Has Problems. We Can Fix Them: Pipe Syntax In SQL 36:55

hace 20 weeks36:55

36:55

Google SQL の新しい文法を森田が紹介しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 SQL Has Problems. We Can Fix Them: Pipe Syntax In SQL PRQL Pipe syntax | BigQuery | Google Cloud SQLite Forum: Interesting paper from Google on pipe syntax on SQL

Misreading Chat

1
#140: GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models 39:54

hace 23 weeks39:54

39:54

LLM にひっかけ算数問題を出してみる話を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2410.05229] GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models GitHub – openai/grade-school-math

Misreading Chat

1
#139: NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis 38:00

hace 26 weeks38:00

38:00

写真を集めてシーンをレンダリングするニューラルネットを森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis NeRF Tutorial ECCV 2022 illuminate.google.com

Misreading Chat

1
#138: Distilling the Knowledge in a Neural Network 23:38

hace 29 weeks23:38

23:38

大きなモデルから小さなモデルを作るテクニックを向井が回願しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [1503.02531] Distilling the Knowledge in a Neural Network

Misreading Chat

1
#137: Optimal Quantile Approximation in Streams 27:32

hace 33 weeks27:32

27:32

ストリームにパーセンタイルを計算したい森田が教科書を読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [1603.05346v2] Optimal Quantile Approximation in Streams Small Summaries for Big Data Data Types – Presto 0.288 Documentation Estimating Percentile Values | Snowflake Documentation KLL sketch vs t-digest – DataSketches…

Misreading Chat

1
#136: Distinct Elements in Streams: An Algorithm for the (Text) Book 25:58

hace 34 weeks25:58

25:58

学部生にも実装できるストリームの要素カウントアルゴリズムを向井が試しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2301.10191] Distinct Elements in Streams: An Algorithm for the (Text) Book The CVM Algorithm for Estimating Distinct Elements in Streams Computer scientists invent an efficient new way to count | Hacker News…

Misreading Chat

1
#135: In-Datacenter Performance Analysis of a Tensor Processing Unit 44:18

hace 39 weeks44:18

44:18

行列の掛け算が得意なハードウェアについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1704.04760] In-Datacenter Performance Analysis of a Tensor Processing Unit Systolic Arrays – an overview | ScienceDirect Topics Pallas: a JAX kernel language — JAX documentation About Groq – Fast AI Inference The Design Process for Google’s Training Chips: TPUv2 and TPUv3 | IEEE Journals & Magazine | IEEE Xplore…

Misreading Chat

1
#134: LoRA: Low-Rank Adaptation of Large Language Models 28:40

hace 42 weeks28:40

28:40

巨大 ML モデルの軽量 fine-tuning 手法を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2106.09685] LoRA: Low-Rank Adaptation of Large Language Models

Misreading Chat

1
#133: Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations 30:19

hace 45 weeks30:19

30:19

CUDA を書かずに済む GPU カーネルの DSL について森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations Introducing Triton: Open-source GPU programming for neural networks | OpenAI Welcome to Triton’s documentation! — Triton documentation Hello Triton.ipynb – Colab #01: Tensor Comprehensions, Rust Belt – Misreading Chat #23 – Halide: Decoupling Algorithms from Schedules for High-Performance Image Processing – Misreading Chat #27 – Julia: A Fresh Approach to Numerical Computing – Misreading Chat…

Misreading Chat

1
#132: High-Resolution Image Synthesis with Latent Diffusion Models 34:30

hace 48 weeks34:30

34:30

Stable Diffusion の元論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2112.10752] High-Resolution Image Synthesis with Latent Diffusion Models [2105.05233] Diffusion Models Beat GANs on Image Synthesis Classifier-Free Diffusion Guidance | OpenReview What are Diffusion Models? | Lil’Log…

Misreading Chat

1
#131: FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness 30:40

hace 49 weeks30:40

30:40

CUDA で書かれた PyTorch 用カーネルに森田が玉砕しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2205.14135] FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness GitHub – Dao-AILab/flash-attention: Fast and memory-efficient exact attention GitHub – NVIDIA/apex: A PyTorch Extension: Tools for easy mixed precision and distributed training in Pytorch [2307.08691] FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning [2112.05682] Self-attention Does Not Need $O(n^2)$ Memory GitHub – tspeterkim/flash-attention-minimal: Flash Attention in ~100 lines of CUDA (forward pass only)…

Misreading Chat

1
#130: Diffusion models from scratch, from a new theoretical perspective 30:44

hace 52 weeks30:44

30:44

向井が画像生成の拡散モデルに入門しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 Diffusion models from scratch [1503.03585] Deep Unsupervised Learning using Nonequilibrium Thermodynamics [2006.11239] Denoising Diffusion Probabilistic Models

Misreading Chat

1
#129: Programming Massively Parallel Processors (Ch.4- Ch.6) 59:43

hace 1 year59:43