Gerçek olamayacak kadar iyi. On yıllardır televizyonda gördüğünüz bir doktor, büyük ilaç şirketlerinin sizin duymamanızı umduğu ve rahatsızlıklarınızı iyileştirebilecek yeni bir devrim niteliğindeki ürünü sosyal medyada savunuyor.

Ancak her şey göründüğü gibi değil. Dolandırıcılar, Hilary Jones, Michael Mosley ve Rangan Chatterjee gibi ünlü TV doktorlarının sahte videolarını sosyal medyada halkın şüphesiz üyelerine ürünlerini tanıtmak için giderek daha fazla yapay zeka teknolojisini kullanıyor.

Saygın British Medical Journal’da (BMJ) yayımlanan yeni bir raporda, sözde ‘deepfake’lerin giderek artan artışına karşı uyarıda bulunuldu.

Deepfake, yapay zekayı kullanarak gerçek hayattaki bir insanın dijital bir benzerini, kendisine ait olmayan bir vücudun videosuna yerleştiriyor.

Politikacıların beceriksiz gibi görünmelerini sağlamak için videolar oluşturmakta ve hatta şirket soygunlarında bile kullanılmaktalar ve şimdi de size şüpheli ‘tedaviler’ satmak için kullanılıyorlar.

BMJ soruşturmasında ortaya çıkarılan kliplerden bazıları, geçen ay Yunanistan’da hayatını kaybeden Dr. Michael Mosley’nin Facebook’ta diyabet tedavisini tanıttığı videolarını da içeriyor.

Sosyal medyada paylaşılan bir diğer ‘reel’ videoda ise ITV’nin Lorraine dizisinde robotik seslendirmeli Dr. Hilary Jones yer alıyor ve Jones, tansiyon ilaçlarının 10 vakadan 8’inde sorunu çözdüğünü iddia ediyor.

Elbette ki videolar sahtedir ve sahtekarlar tarafından sahte ilaçları satmak amacıyla görünüşleri ve sesleri kullanılan hiç kimse tarafından onaylanmamıştır.

Dolandırıcılar, Hilary Jones, Michael Moseley ve Rangan Chatterjee gibi ünlü televizyon doktorlarının videolarını sahte hale getirmek ve ürünlerini sosyal medyada halkın şüphesiz üyelerine tanıtmak için giderek daha fazla yapay zeka teknolojisini kullanıyor

Merhum Dr. Michael Mosley’nin sesi ve benzerliği, sahte diyabet ilaçlarını deepfake videolar aracılığıyla satmaya çalışan dolandırıcılar tarafından acımasızca istismar edildi

Dr Hilary Jones’un Lorraine’de göründüğü değiştirilmiş bir klip, onu yeni bir tansiyon ilacı türünü savunurken gösteriyor – ancak klip tamamen sahte, yapay zeka kullanılarak yapılmış

Dr. Jones, bu trende kapılan tek TV doktoru oldu; bu yılın başlarında Facebook’ta, kendisinin tansiyon tedavisini desteklediği bir deepfake videosu yayıldı.

Ve Dr. Jones’un da bildiği gibi bu tek örnek olmaktan çok uzak.

‘Şu anda ismim kullanılarak tanıtımı yapılan ürünlerden bazıları, kan basıncını ve diyabeti düzelttiğini iddia edenler ve Via Hemp Gummies, Bouncy Nutrition ve Eco Health gibi isimlere sahip kenevir sakızları.’

Geçtiğimiz ay Yunanistan’da hayatını kaybeden posta sağlık uzmanı Dr. Mosley ve Doctor In The House’dan Dr. Chatterjee’nin görüntüleri de bu tür klipler üretmek için kullanıldı.

Deepfake oluşturmak için kullanılan teknoloji yıllardır mevcut olsa da ilk versiyonları kusurluydu ve sıklıkla kulak, parmak veya ses ile kişinin dudak hareketlerini eşleştirememe gibi hatalar içeriyordu ve insanları sahtekarlık konusunda uyarıyordu.

Ancak o zamandan bu yana büyük ilerlemeler kaydedildi ve araştırmalar sınırlı olsa da veriler insanların yarısının bunları gerçek olandan ayırt etmekte zorlandığını gösteriyor.

BMJ’nin raporu hazırlamasında görev alan emekli tıp doktoru John Cormack, dolandırıcıların saygın doktorların itibarını kullanarak ürünlerini pazarlamaya çalışmasını ‘para basmak’ olarak nitelendirdi.

‘Sonuç olarak, paranızı video çekmeye harcamak, araştırma yapıp yeni ürünler geliştirip bunları geleneksel yoldan pazara sunmaktan çok daha ucuzdur,’ dedi.

Düzenleyiciler de bu eğilimi durdurmak için güçsüz görünüyor.

İngiltere’de doktorluk yapanların, Genel Tıp Konseyi’ne kayıtlı olması gerekir. Genel Tıp Konseyi, bir doktorun tıp profesyonellerinden beklenen standartları ihlal ettiği tespit edilirse, onun çalışmasını askıya alabilir veya hatta tamamen meslekten çıkarabilir.

Ancak, sahte doktor videoları hakkında işlem yapma yetkileri yok ve İngiltere’de doktor taklidi yapmak suç olsa da internetin karanlık dünyası, özellikle yurtdışında bulunuyorlarsa, kimin hesap vereceğini takip etmeyi neredeyse imkansız hale getiriyor.

Bunun yerine Dr. Jones gibi sağlık görevlileri, bu tür içerikleri barındıran ve sonuçta bundan para kazanan sosyal medya devlerinin harekete geçmesi gerektiğini söylüyor.

‘Bunun olmasını engellemek, Facebook ve Instagram’ın sahibi olan Meta gibi şirketlere düşüyor’ dedi.

‘Ama para kazanırken bunu yapmaya hiç niyetleri yok.’

BBC belgeseli Doctor In The House’un yıldızı Dr. Rangan Chatterjee de bu trende kapıldı

UYARI. BU, PARA ÇALMAYA ÇALIŞAN SUÇLULARIN BİR DOLANDIRICILIĞIDIR. LÜTFEN PAYLAŞIN.

Bu korkutucu, benim de içinde bulunduğum ilk deep fake video dolandırıcılığı. Hükümet ve düzenleyiciler, büyük teknoloji şirketlerinin bu tür tehlikeli sahtekarlıkları yayınlamasını durdurmak için harekete geçmeli. İnsanlar para kaybedecek ve hayatlar mahvolacak. https://t.co/ZzaBELg1kg

— Martin Lewis (@MartinSLewis) 6 Temmuz 2023

BMJ haberine yanıt veren Meta sözcüsü, “BMJ’nin vurguladığı örnekleri araştıracağız” dedi.

‘Başkalarını kasıtlı olarak aldatan veya dolandırmayı amaçlayan içeriklere izin vermiyoruz ve tespit ve yaptırımı iyileştirmek için sürekli çalışıyoruz.

‘Politikalarımızı ihlal edebilecek içerik gören herkesi, konuyu bildirmeye teşvik ediyoruz; böylece araştırıp harekete geçebiliriz.’

Şu anda Dr. Jones gibi sağlık görevlilerinin meseleyi kendi ellerine almaları gerekiyor.

Lorraine programı gibi programlara sık sık konuk olan Dr. Jones, kendisiyle ilgili deepfake içerikleri takip edip internetten temizlemesi için bir şirketle anlaşıyor.

Ancak sorunun boyutunun giderek kötüleştiğini de sözlerine ekledi.

‘Bu tür faaliyetlerde büyük bir artış var’ dedi.

‘Kaldırılsalar bile ertesi gün başka bir isimle tekrar karşımıza çıkıyorlar.’

Raporda, deepfake’leri bu kadar sinsi yapan şeyin, insanların güvenini sarsması, geçmişte endişeli hastaları kandırmak için iyi ve bazen hayat değiştirici sağlık tavsiyeleri veren tanıdık bir yüzü kullanması olduğu belirtiliyor.

Tıp dünyasının dışında, bütçe uzmanı Martin Lewis’in benzerliği dolandırıcılar tarafından şüpheli yatırımları savunmak için kullanıldı; bu da Lewis’in insanlara bu tür tuzaklara düşmemeleri gerektiğini söylemesine yol açtı.

Deepfake olduğundan şüphelendikleri bir videoyu izleyen kişilerin, ‘kurt geldi’ senaryolarıyla karşılaşmamak için öncelikle videoyu dikkatlice incelemeleri tavsiye ediliyor.

Hala şüpheleniyorsanız, örneğin doğrulanmış bir hesap aracılığıyla, videoda yer aldığını iddia ettiğiniz kişiyle bağımsız olarak iletişime geçmeyi deneyin.

Hala şüpheniz varsa, başkalarının da ekstra bir analiz adımı atmasını umarak yorumunuzun doğruluğunu sorgulayan bir yorum bırakmayı düşünebilirsiniz.

İnsanlar ayrıca sosyal medyanın yerleşik raporlama araçlarını kullanarak videoyu ve paylaşan kişiyi işaretleyebilir ve böylece videonun kaldırılmasını sağlayabilirler.