ChatGPT Tıbbi Verileri Sahte Bilgilerle Oluşturarak Tedavi Öneriyor

Yayınlanma:
ChatGPT Tıbbi Verileri Sahte Bilgilerle Oluşturarak Tedavi Öneriyor
Pandemi sürecinde öğrencilerin sıkça başvurduğu yapay zeka, tıbbi verilerle ilgili gerçek dışı bilgiler üretebiliyor. İtalyan göz doktoru, ChatGPT'nin sahte verilerle tedavi önerileri sunduğunu ortaya koyarak, yapay zekânın ciddi sorunlara yol açabileceğine dikkat çekiyor.

Pandemi sürecinde eğitim, çoğunlukla çevrim içi ortamlara taşındı ve bu dönemde öğrenciler, ödevlerini ya da sınavlarını geçmek adına yapay zekâ tabanlı yardım araçlarına başvurdu. Ancak, Cagliari Üniversitesi'nden Göz Doktoru Giuseppe Giannaccare'nin yaptığı bir çalışma, yapay zekânın tıbbi verileri uydurma yeteneğini ortaya koydu.

chat-gpt-tibbi-verileri-sahte-bilgilerle-olusturarak-tedavi-oneriyor-1.jpg

ChatGPT sağlık sektörüne de girdi

Dr. Giannaccare'nin testinde, ChatGPT'nin sahte verilerle oluşturduğu bir liste aracılığıyla tedavi önerileri sunduğu tespit edildi. Bu durum, yapay zekânın gerçek dışı verilerle dahi çok gerçekçi sonuçlar üretebildiğini gösterdi. Dr. Giannaccare, "GPT-4, dakikalar içinde yüzlerce hastaya ait sahte veri oluşturdu. Bu şaşırtıcı, ancak bir o kadar da ürkütücü bir deneyimdi." şeklinde ifade etti.

chat-gpt-tibbi-verileri-sahte-bilgilerle-olusturarak-tedavi-oneriyor-2.jpg

Araştırmacılar, ChatGPT'yi gelişmiş bir Python veri analizi modeliyle birleştirerek yapay zekânın klinik verileri uydurmasını sağladılar. Ancak, bu süreçte ChatGPT 4'ün gerçek olmayan verilerle bir prosedürü öne çıkartacak kadar fazla bilgi ürettiği gözlendi. Bu durum, yapay zekânın akademik ya da bilimsel çalışmalarda ciddi sorunlara yol açabileceğini gösteriyor.