shauncastic.com

Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut

Peneliti Apple telah mengembangkan kerangka kerja baru untuk membuat robot non-humanoid bergerak lebih alami dan ekspresif selama interaksi dengan orang-orang, berpotensi membuka jalan bagi lebih banyak asisten robot yang lebih menarik di rumah dan tempat kerja.

Penelitian, yang diterbitkan bulan ini di ARXIV, memperkenalkan desain gerakan ekspresif dan fungsional Elegnt, yang memungkinkan robot untuk menyampaikan niat, emosi dan sikap melalui gerakan mereka – daripada hanya menyelesaikan tugas fungsional.

“Untuk robot dapat berinteraksi secara lebih alami dengan manusia, desain gerakan robot harus mengintegrasikan kualitas ekspresif – seperti niat, perhatian dan emosi – di samping pertimbangan fungsional tradisional seperti pemenuhan tugas, kendala spasial dan efisiensi waktu,” para peneliti dari tim robotika Apple menulis dalam mereka di mereka dalam tim Robotika Apple mereka Makalah Penelitian.

Studi ini berfokus pada robot seperti lampu, yang mengingatkan pada karakter Animasi Luxo Jr. Pixar, dilengkapi dengan lengan robot 6-sumbu dan kepala yang berisi cahaya dan proyektor. Para peneliti memprogram robot dengan dua jenis gerakan: yang murni fungsional berfokus pada menyelesaikan tugas, dan gerakan yang lebih ekspresif yang dirancang untuk mengomunikasikan keadaan internal robot.

Dalam pengujian pengguna dengan 21 peserta, gerakan ekspresif secara signifikan meningkatkan keterlibatan orang dengan dan persepsi robot. Efek ini terutama diucapkan selama tugas -tugas sosial seperti bermain musik atau terlibat dalam percakapan, meskipun itu kurang berdampak untuk tugas murni fungsional seperti menyesuaikan pencahayaan.

“Tanpa main -main, saya mungkin menemukan jenis interaksi ini dengan robot yang menjengkelkan daripada disambut dan menarik,” kata seorang peserta studi, menyoroti bagaimana gerakan ekspresif membuat perilaku robot yang berpotensi mengganggu lebih dapat diterima.

Penelitian ini terjadi ketika perusahaan teknologi besar semakin mengeksplorasi robotika rumah. Sementara sebagian besar robot rumah saat ini seperti robot vakuum fokus murni pada fungsi, karya ini menunjukkan bahwa menambahkan gerakan yang lebih alami dan ekspresif dapat membuat robot masa depan lebih menarik.

Namun, para peneliti mencatat bahwa keseimbangan sangat penting. “Perlu ada keseimbangan antara keterlibatan melalui gerakan dan penyelesaian kecepatan tugas yang diberikan, jika tidak manusia mungkin menjadi tidak sabar,” kata seorang peserta.

Studi ini juga menemukan bahwa peserta yang lebih tua secara signifikan kurang reseptif terhadap gerakan robot ekspresif, menunjukkan bahwa perilaku robot mungkin perlu disesuaikan berdasarkan preferensi pengguna.

Sementara Apple jarang membahas penelitian robotika secara publik, karya ini menawarkan petunjuk yang menarik tentang bagaimana raksasa teknologi mungkin mendekati robot rumah di masa depan. Studi ini menunjukkan perubahan mendasar dalam desain robotika: alih -alih hanya berfokus pada apa yang dapat dilakukan robot, perusahaan harus mempertimbangkan bagaimana robot membuat orang merasa.

Tantangan di depan tidak hanya terletak pada robot pemrograman untuk menyelesaikan tugas, tetapi dalam membuat kehadiran mereka disambut di ruang kami yang paling intim. Ketika transisi robot dari lantai pabrik ke ruang tamu, keberhasilan mereka mungkin kurang bergantung pada efisiensi mentah dan lebih banyak tentang kemampuan mereka untuk membaca ruangan – baik secara harfiah maupun metaforis.

Makalah Apple akan disajikan pada 2025 Designing Interactive Systems Conference di Madeira Juli ini.

Hasilnya menunjukkan masa depan di mana desain robot membutuhkan input sebanyak mungkin dari animator dan psikolog perilaku seperti halnya dari insinyur.

Ketika robot menjadi lebih umum di rumah dan tempat kerja, membuatnya bergerak dengan cara yang terasa alami daripada mekanis bisa menjadi perbedaan antara gadget lain yang terlupakan dan teman yang benar -benar sangat diperlukan. Tes sebenarnya adalah apakah perusahaan seperti Apple dapat menerjemahkan wawasan penelitian ini ke dalam produk yang tidak hanya digunakan orang, tetapi juga ingin berinteraksi dengan.

Wawasan harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin mengesankan bos Anda, VB Daily telah Anda liput. Kami memberi Anda sendok dalam tentang apa yang dilakukan perusahaan dengan AI generatif, dari pergeseran peraturan hingga penyebaran praktis, sehingga Anda dapat berbagi wawasan untuk ROI maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Lihat lebih banyak buletin VB di sini.

Kesalahan terjadi.

Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut

Memeluk wajah dan kecerdasan fisik dengan diam-diam meluncurkan PI0 (Pi-Zero) minggu ini, model dasar pertama untuk robot yang menerjemahkan perintah bahasa alami secara langsung ke dalam tindakan fisik.

“PI0 adalah model aksi bahasa visi paling canggih,” Remi Cadene, seorang ilmuwan riset utama di Hugging Face, diumumkan dalam sebuah posting X yang dengan cepat mendapat perhatian di seluruh komunitas AI. “Dibutuhkan perintah bahasa alami sebagai input dan langsung menghasilkan perilaku otonom.”

Rilis ini menandai momen penting dalam robotika: pertama kali model fondasi untuk robot telah tersedia secara luas melalui platform open-source. Sama seperti chatgpt generasi teks yang direvolusi, PI0 bertujuan untuk mengubah bagaimana robot belajar dan melaksanakan tugas.

Masa depan robotika terbuka!

Senang melihat PI0 oleh @physical_int Menjadi model robotika dasar pertama yang bersumber terbuka @huggingface @Lerobothf. Anda sekarang dapat menyempurnakannya pada dataset Anda sendiri.

??? pic.twitter.com/ar8shgyfbv

Model ini, yang awalnya dikembangkan oleh kecerdasan fisik dan sekarang diangkut untuk memeluk platform lerobot Face, dapat melakukan tugas -tugas rumit seperti cucian lipat, meja bussing dan bahan makanan pengepakan – kegiatan yang secara tradisional sangat menantang bagi robot untuk dikuasai.

“Robot hari ini adalah spesialis sempit, diprogram untuk gerakan berulang dalam pengaturan koreografi,” tulis tim peneliti Intelijen Fisik dalam posting pengumuman mereka. “PI0 mengubah itu, memungkinkan robot untuk belajar dan mengikuti instruksi pengguna, membuat pemrograman sesederhana memberi tahu robot apa yang ingin Anda lakukan.”

Teknologi di balik PI0 merupakan pencapaian teknis yang signifikan. Model ini dilatih pada data dari tujuh platform robot yang berbeda dan 68 tugas unik, memungkinkannya untuk menangani semuanya, mulai dari tugas manipulasi halus hingga prosedur multi-langkah yang kompleks. Ini menggunakan teknik baru yang disebut pencocokan aliran untuk menghasilkan lintasan aksi yang halus dan real-time pada 50Hz, membuatnya sangat tepat dan mudah beradaptasi untuk penyebaran dunia nyata.

Membangun di atas yayasan ini, tim juga memperkenalkan “PI0-FAST,” versi yang disempurnakan dari model yang menggabungkan skema tokenisasi baru yang disebut Tokenisasi Urutan Aksi Ruang Ruang (FAST). Versi ini berlatih lima kali lebih cepat dari pendahulunya dan menunjukkan peningkatan generalisasi di berbagai lingkungan dan jenis robot.

Implikasinya untuk industri sangat besar. Fasilitas manufaktur berpotensi memprogram ulang robot untuk tugas -tugas baru melalui instruksi verbal sederhana daripada pengkodean yang kompleks. Gudang dapat menggunakan sistem otomatisasi yang lebih fleksibel yang beradaptasi dengan perubahan kebutuhan. Bahkan usaha kecil mungkin menemukan robotika lebih mudah diakses, karena penghalang pemrograman dan penyebaran menurun secara signifikan.

Namun, tantangan tetap ada. Sementara PI0 merupakan kemajuan yang signifikan, ia masih memiliki keterbatasan. Model ini kadang -kadang berjuang dengan tugas yang sangat kompleks dan membutuhkan sumber daya komputasi yang substansial. Ada juga pertanyaan tentang keandalan dan keamanan dalam pengaturan industri.

Rilis ini datang pada waktu yang penting dalam evolusi industri AI. Ketika perusahaan berlomba untuk mengembangkan dan menggunakan Kecerdasan Umum Buatan (AGI), PI0 merupakan salah satu upaya sukses pertama untuk menjembatani kesenjangan antara model bahasa dan interaksi dunia fisik.

Teknologi ini sekarang tersedia melalui platform Hugging Face, di mana pengembang dapat mengunduh dan menggunakan kebijakan pretrain dengan hanya beberapa baris kode:

Pythonruncopy

Untuk pengguna perusahaan, aksesibilitas ini dapat mempercepat adopsi robotika canggih di seluruh industri. Perusahaan sekarang dapat menyempurnakan model untuk kasus penggunaan tertentu, berpotensi mengurangi waktu dan biaya yang terkait dengan penyebaran solusi robot.

Tim pengembangan juga telah merilis dokumentasi komprehensif dan materi pelatihan, membuat teknologi dapat diakses oleh berbagai pengguna. Demokratisasi teknologi robotika ini dapat mengarah pada aplikasi inovatif di berbagai sektor, dari perawatan kesehatan hingga ritel.

Saat teknologi matang, itu bisa membentuk kembali bagaimana kita berpikir tentang otomatisasi dan interaksi manusia-robot. Kemampuan untuk mengendalikan robot melalui bahasa alami dapat membuat bantuan robot lebih mudah diakses di rumah, rumah sakit, dan usaha kecil – area di mana robotika tradisional telah berjuang untuk mendapatkan daya tarik karena kompleksitas pemrograman.

Dengan rilis ini, masa depan robotik terlihat semakin percakapan, adaptif, dan dapat diakses. Meskipun masih ada pekerjaan yang harus dilakukan, PI0 mewakili langkah yang signifikan menuju menjadikan robot yang serbaguna dan cerdas sebagai realitas praktis daripada fantasi fiksi ilmiah.

Wawasan harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin mengesankan bos Anda, VB Daily telah Anda liput. Kami memberi Anda sendok dalam tentang apa yang dilakukan perusahaan dengan AI generatif, dari pergeseran peraturan hingga penyebaran praktis, sehingga Anda dapat berbagi wawasan untuk ROI maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Lihat lebih banyak buletin VB di sini.

Kesalahan terjadi.

Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut

Peneliti Bytedance telah mengembangkan sistem AI yang mengubah foto tunggal menjadi video realistis orang yang berbicara, bernyanyi dan bergerak secara alami – sebuah terobosan yang dapat membentuk kembali hiburan dan komunikasi digital.

Sistem baru, yang disebut Omnihuman, menghasilkan video seluruh tubuh yang menunjukkan orang-orang memberi isyarat dan bergerak dengan cara yang sesuai dengan ucapan mereka, melampaui model AI sebelumnya yang hanya bisa menghidupkan wajah atau tubuh bagian atas.

“Animasi manusia ujung ke ujung telah mengalami kemajuan penting dalam beberapa tahun terakhir,” tulis para peneliti Bytedance dalam sebuah makalah yang diterbitkan di Arxiv. “Namun, metode yang ada masih berjuang untuk meningkatkan model generasi video umum yang besar, membatasi potensi mereka dalam aplikasi nyata,”

Tim melatih Omnihuman pada lebih dari 18.700 jam data video manusia menggunakan pendekatan baru yang menggabungkan beberapa jenis input – gerakan teks, audio, dan tubuh. Strategi pelatihan “omni-conditions” ini memungkinkan AI untuk belajar dari dataset yang jauh lebih besar dan lebih beragam daripada metode sebelumnya.

“Wawasan utama kami adalah bahwa menggabungkan beberapa sinyal pengkondisian, seperti teks, audio dan pose, selama pelatihan dapat secara signifikan mengurangi pemborosan data,” tim peneliti menjelaskan.

Teknologi ini menandai kemajuan yang signifikan dalam media yang dihasilkan AI, menunjukkan kemampuan yang berkisar dari menciptakan video orang yang menyampaikan pidato hingga menggambarkan subjek memainkan alat musik. Dalam pengujian, Omnihuman mengungguli sistem yang ada di berbagai tolok ukur kualitas.

Perkembangan muncul di tengah persaingan yang mengintensifkan dalam pembuatan video AI, dengan perusahaan seperti Google, Meta dan Microsoft mengejar teknologi serupa. Terobosan Bytedance dapat memberikan keuntungan kepada perusahaan induk Tiktok di bidang yang berkembang pesat ini.

Pakar industri mengatakan teknologi seperti itu dapat mengubah produksi hiburan, penciptaan konten pendidikan, dan komunikasi digital. Namun, itu juga menimbulkan kekhawatiran tentang potensi penyalahgunaan dalam menciptakan media sintetis untuk tujuan menipu.

Para peneliti akan mempresentasikan temuan mereka di konferensi visi komputer yang akan datang, meskipun mereka belum menentukan kapan atau mana.

Wawasan harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin mengesankan bos Anda, VB Daily telah Anda liput. Kami memberi Anda sendok dalam tentang apa yang dilakukan perusahaan dengan AI generatif, dari pergeseran peraturan hingga penyebaran praktis, sehingga Anda dapat berbagi wawasan untuk ROI maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Lihat lebih banyak buletin VB di sini.

Kesalahan terjadi.

Bergabunglah dengan buletin harian dan mingguan kami untuk pembaruan terbaru dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari lebih lanjut

Alibaba Cloud meluncurkan model Qwen2.5-Max hari ini, menandai terobosan intelijen buatan utama kedua dari Cina dalam waktu kurang dari seminggu yang telah mengguncang pasar teknologi AS dan mengintensifkan kekhawatiran tentang kepemimpinan AI yang mengikis Amerika.

Model baru ini mengungguli model R1 Deepseek, yang mengirim stok Nvidia yang terjun 17% pada hari Senin, dalam beberapa tolok ukur utama termasuk Arena-Hard, Livebench, dan LiveCodebench. Qwen2.5-Max juga menunjukkan hasil kompetitif terhadap para pemimpin industri seperti GPT-4O dan Claude-3.5-Sonnet dalam tes penalaran dan pengetahuan canggih.

“Kami telah membangun Qwen2.5-Max, sebuah moe besar yang diawali dengan data besar-besaran dan pasca-terlatih dengan resep SFT dan RLHF yang dikuratori,” Alibaba Cloud mengumumkan dalam sebuah posting blog. Perusahaan menekankan efisiensi modelnya, setelah dilatih pada lebih dari 20 triliun token sambil menggunakan arsitektur campuran-ahli yang membutuhkan sumber daya komputasi yang jauh lebih sedikit daripada pendekatan tradisional.

Waktu rilis AI China back-to-back ini telah memperdalam kecemasan Wall Street tentang supremasi teknologi AS. Kedua pengumuman datang selama minggu pertama Presiden Trump di kantor, mendorong pertanyaan tentang efektivitas kontrol ekspor chip AS yang dimaksudkan untuk memperlambat kemajuan AI China.

Untuk CIO dan pemimpin teknis, arsitektur QWEN2.5-Max mewakili potensi perubahan dalam strategi penyebaran AI perusahaan. Pendekatan campuran para ahli menunjukkan bahwa kinerja AI yang kompetitif dapat dicapai tanpa kelompok GPU besar-besaran, berpotensi mengurangi biaya infrastruktur sebesar 40-60% dibandingkan dengan penyebaran model bahasa besar tradisional.

Spesifikasi teknis menunjukkan pilihan teknik canggih yang penting untuk adopsi perusahaan. Model ini hanya mengaktifkan komponen jaringan saraf khusus untuk setiap tugas, yang memungkinkan organisasi untuk menjalankan kemampuan AI canggih pada konfigurasi perangkat keras yang lebih sederhana.

Pendekatan efisiensi-pertama ini dapat membentuk kembali peta jalan AI perusahaan. Daripada berinvestasi banyak dalam ekspansi pusat data dan kelompok GPU, para pemimpin teknis dapat memprioritaskan optimasi arsitektur dan penyebaran model yang efisien. Kinerja model yang kuat dalam pembuatan kode (LiveCodebench: 38,7%) dan tugas penalaran (arena-hard: 89,4%) menunjukkan bahwa ia dapat menangani banyak kasus penggunaan perusahaan sambil membutuhkan overhead komputasi yang jauh lebih sedikit.

Namun, pembuat keputusan teknis harus mempertimbangkan faktor -faktor di luar metrik kinerja mentah. Pertanyaan tentang kedaulatan data, keandalan API, dan dukungan jangka panjang kemungkinan akan mempengaruhi keputusan adopsi, terutama mengingat lanskap peraturan yang kompleks di sekitar teknologi AI Cina.

Arsitektur Qwen2.5-Max mengungkapkan bagaimana perusahaan Cina beradaptasi dengan pembatasan AS. Model ini menggunakan pendekatan campuran para ahli yang memungkinkannya untuk mencapai kinerja tinggi dengan sumber daya komputasi yang lebih sedikit. Inovasi yang berfokus pada efisiensi ini menunjukkan bahwa China mungkin telah menemukan jalur berkelanjutan untuk kemajuan AI meskipun ada akses terbatas ke chip mutakhir.

Prestasi teknis di sini tidak dapat dilebih -lebihkan. Sementara perusahaan AS telah fokus pada penskalaan melalui kekuatan komputasi brute-dicontohkan oleh perkiraan penggunaan Openai lebih dari 32.000 GPU kelas atas untuk model terbarunya-perusahaan Cina menemukan keberhasilan melalui inovasi arsitektur dan penggunaan sumber daya yang efisien.

Perkembangan ini memaksa penilaian ulang mendasar tentang bagaimana keunggulan teknologi dapat dipertahankan di dunia yang saling berhubungan. Kontrol ekspor AS, yang dirancang untuk melestarikan kepemimpinan Amerika di AI, mungkin secara tidak sengaja mempercepat inovasi Cina dalam efisiensi dan arsitektur.

“Penskalaan data dan ukuran model tidak hanya menunjukkan kemajuan dalam model intelijen tetapi juga mencerminkan komitmen kami yang tak tergoyahkan untuk merintis penelitian,” Alibaba Cloud menyatakan dalam pengumumannya. Perusahaan menekankan fokusnya pada “meningkatkan kemampuan berpikir dan penalaran model bahasa besar melalui aplikasi inovatif pembelajaran penguatan skala.”

Untuk pelanggan perusahaan, perkembangan ini dapat menandai masa depan AI yang lebih mudah diakses. Qwen2.5-Max sudah tersedia melalui layanan API Alibaba Cloud, menawarkan kemampuan yang mirip dengan model AS terkemuka dengan biaya yang berpotensi lebih rendah. Aksesibilitas ini dapat mempercepat adopsi AI di seluruh industri, terutama di pasar di mana biaya telah menjadi penghalang.

Namun, masalah keamanan tetap ada. Departemen Perdagangan AS telah meluncurkan tinjauan baik Deepseek dan Qwen2.5-Max untuk menilai potensi implikasi keamanan nasional. Kemampuan perusahaan Cina untuk mengembangkan kemampuan AI canggih meskipun kontrol ekspor menimbulkan pertanyaan tentang efektivitas kerangka kerja peraturan saat ini.

Lansekap AI global bergeser dengan cepat. Asumsi bahwa pengembangan AI tingkat lanjut membutuhkan sumber daya komputasi yang besar dan perangkat keras mutakhir sedang ditantang. Ketika perusahaan Cina menunjukkan kemungkinan mencapai hasil yang sama melalui inovasi yang efisien, industri mungkin dipaksa untuk mempertimbangkan kembali pendekatannya terhadap kemajuan AI.

Bagi para pemimpin teknologi AS, tantangannya sekarang ada dua: menanggapi tekanan pasar langsung sambil mengembangkan strategi berkelanjutan untuk persaingan jangka panjang di lingkungan di mana keunggulan perangkat keras mungkin tidak lagi menjamin kepemimpinan.

Beberapa bulan ke depan akan sangat penting karena industri menyesuaikan diri dengan kenyataan baru ini. Dengan perusahaan Cina dan AS yang menjanjikan kemajuan lebih lanjut, perlombaan global untuk supremasi AI memasuki fase baru – di mana efisiensi dan inovasi dapat terbukti lebih penting daripada kekuatan komputasi mentah.

Wawasan harian tentang kasus penggunaan bisnis dengan VB setiap hari

Jika Anda ingin mengesankan bos Anda, VB Daily telah Anda liput. Kami memberi Anda sendok dalam tentang apa yang dilakukan perusahaan dengan AI generatif, dari pergeseran peraturan hingga penyebaran praktis, sehingga Anda dapat berbagi wawasan untuk ROI maksimum.

Baca Kebijakan Privasi Kami

Terima kasih telah berlangganan. Lihat lebih banyak buletin VB di sini.

Kesalahan terjadi.

Bergabunglah dengan buletin harian dan mingguan kami untuk mendapatkan pembaruan terkini dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari Lebih Lanjut

Para peneliti di Sakana AI, sebuah laboratorium penelitian AI yang berfokus pada algoritma yang terinspirasi dari alam, telah mengembangkan model bahasa adaptif yang dapat mempelajari tugas-tugas baru tanpa perlu penyesuaian. Disebut Transformer² (Transformer-squared), model ini menggunakan trik matematika untuk menyelaraskan bobotnya dengan permintaan pengguna selama inferensi.

Ini adalah serangkaian teknik terbaru yang bertujuan untuk meningkatkan kemampuan model bahasa besar (LLM) pada waktu inferensi, menjadikannya semakin berguna untuk aplikasi sehari-hari di berbagai domain.

Biasanya, mengonfigurasi LLM untuk tugas-tugas baru memerlukan proses penyesuaian yang mahal, di mana model dihadapkan pada contoh-contoh baru dan parameternya disesuaikan. Pendekatan yang lebih hemat biaya adalah “adaptasi tingkat rendah” (LoRA), yang mana sebagian kecil parameter model yang relevan dengan tugas target diidentifikasi dan dimodifikasi selama penyesuaian.

Setelah pelatihan dan penyesuaian, parameter model tetap tidak berubah, dan satu-satunya cara untuk menggunakannya kembali untuk tugas-tugas baru adalah melalui teknik seperti pembelajaran beberapa tahap dan pembelajaran banyak tahap.

Berbeda dengan fine-tuning klasik, Transformer-squared menggunakan pendekatan dua langkah untuk menyesuaikan parameternya secara dinamis selama inferensi. Pertama, model ini menganalisis permintaan masuk untuk memahami tugas dan persyaratannya, lalu menerapkan penyesuaian khusus tugas pada bobot model guna mengoptimalkan performanya untuk permintaan spesifik tersebut.

“Dengan secara selektif menyesuaikan komponen penting dari bobot model, kerangka kerja kami memungkinkan LLM beradaptasi secara dinamis terhadap tugas-tugas baru secara real-time,” tulis para peneliti dalam postingan blog yang dipublikasikan di situs web perusahaan.

Kemampuan inti Transformer-kuadrat adalah secara dinamis menyesuaikan komponen penting dari bobotnya pada inferensi.

Untuk melakukan hal ini, pertama-tama ia harus mengidentifikasi komponen-komponen utama yang dapat diubah selama inferensi. Transformer-squared melakukan hal ini melalui dekomposisi nilai tunggal (SVD), sebuah trik aljabar linier yang memecah matriks menjadi tiga matriks lain yang mengungkapkan struktur bagian dalam dan geometrinya. SVD sering digunakan untuk mengompresi data atau menyederhanakan model pembelajaran mesin.

Saat diterapkan pada matriks bobot LLM, SVD memperoleh sekumpulan komponen yang secara kasar mewakili berbagai kemampuan model, seperti matematika, pemahaman bahasa, atau pengkodean. Dalam eksperimen mereka, para peneliti menemukan bahwa komponen-komponen ini dapat diubah untuk mengubah kemampuan model dalam tugas-tugas tertentu.

Untuk memanfaatkan temuan ini secara sistematis, mereka mengembangkan proses yang disebut penyempurnaan nilai tunggal (SVF). Pada waktu pelatihan, SVF mempelajari sekumpulan vektor dari komponen SVD model. Vektor-vektor ini, yang disebut vektor-z, merupakan representasi kompak dari keterampilan individu dan dapat digunakan sebagai tombol untuk memperkuat atau mengurangi kemampuan model dalam tugas-tugas tertentu.

Pada waktu inferensi, Transformer-squared menggunakan mekanisme dua jalur untuk mengadaptasi LLM untuk tugas yang tidak terlihat. Pertama, ini mengkaji dorongan untuk menentukan keterampilan yang diperlukan untuk mengatasi masalah (para peneliti mengusulkan tiga teknik berbeda untuk menentukan keterampilan yang diperlukan). Pada tahap kedua, Transformer-squared mengonfigurasi vektor-z yang sesuai dengan permintaan dan menjalankan prompt melalui model dan bobot yang diperbarui. Hal ini memungkinkan model memberikan respons yang disesuaikan untuk setiap permintaan.

Para peneliti menerapkan Transformer-squared ke Llama-3 dan Mistral LLM dan membandingkannya dengan LoRA pada berbagai tugas, termasuk matematika, pengkodean, penalaran, dan tanya jawab visual. Transformer-squared mengungguli LoRA di semua benchmark namun memiliki parameter yang lebih sedikit. Perlu diperhatikan juga bahwa, tidak seperti Transformer-squared, model LoRA tidak dapat menyesuaikan bobotnya pada waktu inferensi, sehingga membuatnya kurang fleksibel.

Temuan menarik lainnya adalah bahwa pengetahuan yang diambil dari satu model dapat ditransfer ke model lain. Misalnya, vektor-z yang diperoleh dari model Llama dapat diterapkan pada model Mistral. Hasilnya tidak sebanding dengan pembuatan vektor-z dari awal untuk model target, dan transferabilitas dimungkinkan karena kedua model memiliki arsitektur yang serupa. Namun hal ini menunjukkan kemungkinan mempelajari vektor-z umum yang dapat diterapkan pada berbagai model.

“Jalan ke depan terletak pada membangun model yang secara dinamis beradaptasi dan berkolaborasi dengan sistem lain, menggabungkan kemampuan khusus untuk memecahkan masalah multi-domain yang kompleks,” tulis para peneliti. “Sistem yang dapat beradaptasi secara mandiri seperti Transformer² menjembatani kesenjangan antara AI statis dan kecerdasan hidup, membuka jalan bagi alat AI yang efisien, terpersonalisasi, dan terintegrasi penuh yang mendorong kemajuan di seluruh industri dan kehidupan kita sehari-hari.”

Sakana AI telah merilis kode untuk melatih komponen Transformer-squared di GitHub.

Ketika perusahaan mengeksplorasi aplikasi LLM yang berbeda, tahun lalu telah terjadi pergeseran nyata ke arah pengembangan teknik waktu inferensi. Transformer-squared adalah salah satu dari beberapa pendekatan yang memungkinkan pengembang menyesuaikan LLM untuk tugas baru pada waktu inferensi tanpa perlu melatih ulang atau menyempurnakannya.

Titans, sebuah arsitektur yang dikembangkan oleh para peneliti di Google, mengatasi masalah ini dari sudut pandang yang berbeda, memberikan model bahasa kemampuan untuk mempelajari dan menghafal informasi baru pada waktu inferensi. Teknik lain fokus untuk memungkinkan LLM terdepan memanfaatkan jendela konteks mereka yang semakin panjang untuk mempelajari tugas-tugas baru tanpa pelatihan ulang.

Dengan perusahaan yang memiliki data dan pengetahuan khusus untuk aplikasi mereka, kemajuan dalam teknik penyesuaian waktu inferensi akan membuat LLM jauh lebih berguna.

Wawasan harian tentang kasus penggunaan bisnis dengan VB Daily

Jika Anda ingin mengesankan atasan Anda, VB Daily siap membantu Anda. Kami memberi Anda informasi mendalam tentang apa yang dilakukan perusahaan dengan AI generatif, mulai dari perubahan peraturan hingga penerapan praktis, sehingga Anda dapat berbagi wawasan untuk ROI maksimum.

Baca Kebijakan Privasi kami

Terima kasih telah berlangganan. Lihat buletin VB lainnya di sini.

Terjadi kesalahan.

Bergabunglah dengan buletin harian dan mingguan kami untuk mendapatkan pembaruan terkini dan konten eksklusif tentang liputan AI terkemuka di industri. Pelajari Lebih Lanjut

Sebuah tim dari Adobe Research dan Universitas Sains dan Teknologi Hong Kong (HKUST) telah mengembangkan sistem kecerdasan buatan yang dapat mengubah cara pembuatan efek visual untuk film, game, dan media interaktif.

Teknologi yang disebut TransPixar ini menambahkan fitur penting pada video yang dihasilkan AI: kemampuan untuk menciptakan elemen tembus pandang seperti asap, pantulan, dan efek halus yang menyatu secara alami ke dalam pemandangan. Alat video AI saat ini biasanya hanya dapat menghasilkan gambar yang solid, menjadikan TransPixar sebagai pencapaian teknis yang signifikan.

“Saluran alfa sangat penting untuk efek visual, memungkinkan elemen transparan seperti asap dan pantulan menyatu dengan mulus ke dalam pemandangan,” kata Yijun Li, pemimpin proyek di Adobe Research dan salah satu penulis makalah. “Namun, menghasilkan video RGBA, yang mencakup saluran alfa untuk transparansi, masih menjadi tantangan karena terbatasnya kumpulan data dan sulitnya mengadaptasi model yang ada.”

Terobosan ini terjadi pada saat yang kritis karena permintaan akan efek visual terus meningkat di industri hiburan, periklanan, dan game. Pekerjaan VFX tradisional seringkali membutuhkan upaya manual yang sungguh-sungguh dari para seniman untuk menciptakan efek transparan yang meyakinkan.

Apa yang membuat TransPixar menonjol adalah kemampuannya untuk mempertahankan kualitas tinggi saat bekerja dengan data pelatihan yang sangat terbatas. Para peneliti mencapai hal ini dengan mengembangkan pendekatan baru yang memperluas model AI video yang sudah ada, dibandingkan membangunnya dari awal.

“Kami memperkenalkan token baru untuk pembuatan saluran alfa, menginisialisasi ulang penyematan posisinya, dan menambahkan penyematan domain tanpa inisialisasi untuk membedakannya dari token RGB,” jelas Luozhou Wang, penulis utama dan peneliti di HKUST. “Dengan menggunakan skema penyesuaian berbasis LoRA, kami memproyeksikan token alfa ke dalam ruang qkv sambil menjaga kualitas RGB.”

Dalam demonstrasinya, sistem ini menunjukkan hasil yang mengesankan dengan menghasilkan beragam efek mulai dari perintah teks sederhana — mulai dari awan badai yang berputar-putar dan portal magis hingga pecahan kaca dan asap yang mengepul. Teknologi ini juga dapat menganimasikan gambar diam dengan efek transparansi, membuka kemungkinan kreatif baru bagi seniman dan desainer.

Tim peneliti telah membuat kode mereka tersedia untuk umum di GitHub dan menerapkan demo di Hugging Face, yang memungkinkan pengembang dan peneliti bereksperimen dengan teknologi tersebut.

Pengujian awal menunjukkan TransPixar dapat membuat produksi efek visual lebih cepat dan sederhana, terutama untuk studio kecil yang tidak mampu membayar pekerjaan efek yang mahal. Meskipun sistem ini masih memerlukan daya komputasi yang signifikan untuk memproses video yang lebih panjang, potensi dampaknya terhadap industri kreatif sudah jelas.

Teknologi jauh lebih penting daripada perbaikan teknis. Ketika layanan streaming membutuhkan lebih banyak konten dan pertumbuhan produksi virtual, efek transparan yang dihasilkan AI dapat mengubah cara studio beroperasi. Tim kecil dapat menciptakan efek yang dahulu diperlukan oleh studio besar, sementara produksi yang lebih besar dapat menyelesaikan proyek lebih cepat.

TransPixar bisa sangat berharga untuk penggunaan real-time. Video game, aplikasi AR, dan produksi langsung dapat menciptakan efek transparan secara instan — sesuatu yang saat ini memerlukan kerja berjam-jam atau berhari-hari.

Kemajuan ini terjadi pada momen penting bagi Adobe ketika perusahaan seperti Stability AI dan Runway bersaing untuk mengembangkan alat efek profesional. Studio-studio besar telah memanfaatkan AI untuk mengurangi biaya, sehingga menjadikan waktu TransPixar ideal.

Industri hiburan menghadapi tiga tantangan yang semakin besar: Pemirsa menginginkan lebih banyak konten, anggaran yang ketat, dan jumlah artis efek yang tidak mencukupi. TransPixar menawarkan solusi dengan membuat efek lebih cepat, lebih murah, dan kualitas lebih konsisten.

Pertanyaan sebenarnya bukanlah apakah AI akan mengubah efek visual — melainkan apakah alur kerja VFX tradisional akan ada dalam lima tahun.

Wawasan harian tentang kasus penggunaan bisnis dengan VB Daily

Jika Anda ingin mengesankan atasan Anda, VB Daily siap membantu Anda. Kami memberi Anda gambaran mendalam tentang apa yang dilakukan perusahaan dengan AI generatif, mulai dari perubahan peraturan hingga penerapan praktis, sehingga Anda dapat berbagi wawasan untuk ROI maksimum.

Baca Kebijakan Privasi kami

Terima kasih telah berlangganan. Lihat buletin VB lainnya di sini.

Terjadi kesalahan.