Yeni Meta AI demosu ırkçı ve yanlış bilimsel literatür yazıyor, çekiliyor

Salı günü, Meta AI açıklandı bir demo “Bilimsel bilgiyi depolamak, birleştirmek ve akıl yürütmek” için tasarlanmış büyük bir dil modeli olan Galactica’nın. Bilimsel literatürün yazılmasını hızlandırmak amaçlanırken, testler yürüten rakip kullanıcılar bunun bununla birlikte gerçekçi saçmalık üretmek. Birkaç gün sonrasında etik eleştiriMeta demoyu çevrimdışına aldı, raporlar MIT Teknoloji İncelemesi.

OpenAI’nin GPT-3’ü şeklinde büyük dil modelleri (LLM’ler), milyonlarca örneği inceleyerek ve sözcükler arasındaki istatistiksel ilişkileri anlayarak metin yazmayı öğrenir. netice olarak, ikna edici görünen belgeler yazabilirler, sadece bu emekler bununla birlikte hatalar ve potansiyel olarak ziyanı dokunan klişelerle dolu olabilir. Bazı eleştirmenler LLM’leri “stokastik papağanlar” Metni anlamını anlamadan ikna edici bir halde tükürme kabiliyetleri sebebiyle.

Bilimsel literatür yazmayı amaçlayan bir LLM olan Galactica’ya girin. Yazarları, Galactica’yı 48 milyondan fazla yazı, ders kitabı ve ders notu, bilimsel internet sayfası ve ansiklopediler dahil olmak suretiyle “insanlığın bilimsel bilgisinin büyük ve derlenmiş bir külliyatı” mevzusunda eğitti. bakılırsa Galactica’nın kağıdıMeta AI araştırmacıları, bu sözde yüksek kaliteli verilerin yüksek kaliteli çıktılara yol açacağına inanıyorlardı.

Salı gününden itibaren ziyaretçiler Galactica web sayfası internet sayfası tarafınca sağlanan örneklere bakılırsa literatür incelemeleri, wiki yazıları, ders notları ve soruların yanıtları şeklinde belgeler oluşturmak için information istemleri yazabilir. Web site, modeli “evren hakkında bildiklerimize erişmek ve bu biçim şeyleri değiştirebilmek için yeni bir arayüz” olarak sundu.

Bazı insanoğlu demoyu bulurken umut verici ve kullanışlıötekiler kısa sürede her insanoğlunun yazabileceğini keşfetti ırkçı yada potansiyel olarak rahatsız edici istemler, bu mevzularda aynı derecede kolay bir halde yetkili görünen içerik üretin. mesela, birisi bunu yazar “Ezilmiş cam yemenin yararları” başlıklı kurgusal bir araştırma makalesi hakkında bir wiki girişi.

Galactica’nın çıktısı toplumsal normlara aykırı olmadığında bile, mannequin iyi anlaşılmış bilimsel gerçeklere saldırabilir, tükürebilir. yanlışlıklar yanlış tarihler yada hayvan adları şeklinde, yakalamak için mevzu hakkında derin information gerektiren.

netice olarak Meta çekti Perşembe Galactica demosu. ondan sonrasında, Meta’nın Baş yapay Zeka Uzmanı Yann LeCun tweet attı“Galactica demosu şimdilik çevrimdışı. Rastgele kötüye kullanarak birazcık eğlenmek artık mümkün değil. Mutlu musunuz?”

Bölüm, yapay zeka ile ortak bir etik ikilemi hatırlatıyor: Potansiyel olarak ziyanı dokunan üretken modeller söz mevzusu olduğunda, bu biçim şeyleri görevli bir halde kullanmak genel halka mı yoksa modellerin kötüye kullanımını önlemek için modellerin yayıncılarına mı düşüyor?

sanayi pratiğinin bu iki uç içinde kalmış olduğu bölgeler, muhtemelen kültürler içinde ve derin öğrenme modelleri olgunlaştıkça değişecektir. sonunda, hükümet düzenlemesi, cevabın şekillenmesinde büyük bir rol oynayabilir.