USD 0,0000
EUR 0,0000
USD/EUR 0,00
ALTIN 000,00
BİST 0.000
Teknoloji

OpenAI'ın Whisper Aracının Halüsinasyon Sorunu Keşfedildi

Yazılım mühendisleri, uygulama geliştiriciler ve akademisyenler, OpenAI'ın transkripsiyon aracı Whisper'dan memnun değil.

OpenAI'ın Whisper Aracının Halüsinasyon Sorunu Keşfedildi
27-10-2024 18:58
Google News

Yapay ÖZETİ| zekânın popülerleşmesi ile birlikte hayatımıza giren kavramlardan biri de halüsinasyonlar olmuştu. Özellikle dil modelleri, soruları cevap verirken olmayan bilgileri de gerçekmiş gibi sunabiliyor. Hatta zaman zaman olmayan akademik kaynakları da gerçekmiş gibi kaynakçaya ekleyebiliyor. 

Yapay zekânın bir şeyler "uydurması" oldukça tartışmalı bir konu ancak en azından teknik açıdan anlaşılabilir durumda. Farklı kavramlar arasında bağ kurduğunda ya da doğru bilgilere ulaşamadığında farklı çözümler bulması yapay zekânın oluşturduğu metinler için bir sorun teşkil edebiliyor. Öte yandan sorunun transkripsiyon gibi bir alanda ortaya çıkması beklenmedik oldu.

Transkripsiyonda halüsinasyon sorunu

whisper

Assoicated Press'e göre OpenAI'ın transkripsiyon aracı Whisper, konuşmaları metin hâline getirirken araya pek çok ilgisiz bilgi ekliyor. Bu bilgiler arasında ırkçılık ile ilgili yorumlardan tıbbi tedavilere kadar pek çok farklı alanda sorunlara neden oluyor. Araştırmacılar, özellikle hastanelerde ve diğer tıbbi çalışmalarda bu durumun büyük sorunlara neden olacağını belirtiyor. 

Michigan Üniversitesi'nden bir araştırmacı da kamu toplantılarının transkripsiyonlarını inceledi. İncelemede her 10 metinden 8'inde halüsinasyonlar olduğu ortaya çıktı. Bir makine öğrenimi mühendisi ise 100 saatten fazla süreli bir çalışmada metinlerin en az yarısında halüsinasyon olduğunu belirtti. 

OpenAI tarafından yapılan açıklamada ise modellerin doğruluğunu arttırmak ve halüsinasyonları azaltmak için çalıştıklarını ve Whisper'ın  "belirli yüksek riskli karar verme bağlamlarında" kullanılmasına engel olacak kullanım politikaları olduğu belirtildi. Bulgularını paylaştıkları için de araştırmacılara teşekkür edildi.


Editor : Şerif SENCER
SİZİN DÜŞÜNCELERİNİZ?
TEKNOLOJİ TÜMÜ
Microsoft, Copilot'un Adını Değiştirmeyi Planlıyor
Microsoft, Copilot'un Adını Değiştirmeyi Planlıyor

Microsoft'un son dönemde Windows'un her yerine yerleştirdiği Copilot yapay zekâsının adı değişebilir.

ARŞİV ARAMA
PUAN DURUMU TÜMÜ
ANKET TÜMÜ
Türkiye'de En Önemli Gündem Maddesi Sizce Hangisi?
NAMAZ VAKİTLERİ
Gazete Manşetleri
Yol Durumu