Beyin gerçek olanı nasıl belirliyor?

Bu, çoğumuzun asla sormak zorunda kalmadığı bir soru. Anılarımız kayıtlar gibi geliyor bize; kusurlu, evet, ama yine de kayıtlar. Nerede bulunduğumuzu, ne yaptığımızı, kim olduğumuzu bize söylemeleri için onlara güveniyoruz. Ancak bu güven, erişemediğimiz sinirsel mekanizmalara, bilinçli farkındalığın altında çalışan gerçeklik sınıflandırma süreçlerine dayanıyor. 

Daha önce Tim Requarth'ın yazılarını yayınlama şansına sahip olduk. Lütfen " Son Beş Yüzde " adlı yazısına mutlaka göz atın. Bu yazı 2020 Bilim ve Toplum Gazetecilik Ödülü'nü kazandı ve 2020'nin En İyi Amerikan Bilim ve Doğa Yazıları antolojisinde yer aldı .

Eşim, ilişkimizin başlarında birlikte bir yoga dersine gittiğimizi ısrarla söylüyor. Öğretmeni (Fransız bir akrobat, gökkuşağı renkli dreadlock'lar, oldukça ilginç bir karaktermiş), nerede oturduğumuzu (kapının solunda) ve yoga matlarının rengini (turkuaz) çok net hatırlıyor. Ben ise yanlış hatırladığını düşünüyorum: Bugün bile bir yoga dersine hiç gitmedim. Bir keresinde telefonumun konum geçmişini yıllar öncesine kadar taradım, ama iPhone çıktıktan kısa bir süre sonra çıkmaya başlamıştık ve eğer veriler hiç var olduysa da, artık yok. Yoga hikayesi birkaç yılda bir gündeme geliyor, ama asla çözüme kavuşturamıyoruz. Muhtemelen çözüme kavuşturulamaz. Bir nörobilimci olarak, bu tür şeylerin nasıl olduğunu biliyorum; kodlama hataları, kaynak karışıklığı, iki insanın aynı öğleden sonra hakkında farklı hikayeler anlatmasının nörobilimi. Bu bilgi bizi hiçbir zaman anlaşmaya yaklaştırmadı.

Bu hikayeyi düşünürken, OpenAI'nin Sora uygulamasını kullanan mahalle arkadaşım Andrew Deutsch'tan garip bir şey duydum. Sora, bilmeyenler için şöyle çalışıyordu: Yüzünüzü kaydediyor, birkaç sayı söylüyor ve başınızı sağa sola çeviriyordunuz. Birkaç saniye sonra, kendinizin yapay zekâ tarafından oluşturulmuş bir video kopyasına, yani bir "deepfake" videosuna sahip oluyordunuz ve bu videoyu yapay zekânın üretmesini istediğiniz herhangi bir senaryoya ekleyebiliyordunuz. Sünger Bob ile dalış yapmak. Fütüristik bir şehir manzarasında K-pop tarzında dans etmek. Daha sonra videolarınızı arkadaşlarınızla paylaşabiliyor ve başkalarının videolarına göz atabiliyordunuz; bu da genellikle "deepfake'ler için TikTok" olarak tanımlanıyor. Sora, sadece beş günde bir milyon indirmeye ulaştı. Altı ay sonra, OpenAI , planlanan bir halka arz öncesinde kaynaklarını kodlama araçlarına yönlendirdiği gerekçesiyle uygulamayı kapattı . O halde bunu, kısa ve utanç verici serüveninde insan bilişinde bir zayıflığı ortaya çıkaran ve bir sonraki kendi kendini deepfake eden uygulamanın kesinlikle istismar edeceği, Broadway dışı bir fiyaskonun ömrüne sahip Sora için bir ağıt olarak düşünün.

Haftalar öncesinden deneme daveti almıştım ama bir türlü açmaya cesaret edememiştim. Öte yandan Deutsch, Sora'yı yoğun bir şekilde kullanıyordu. 20 yıldır animasyon ve artırılmış gerçeklik alanında çalışıyor; teknolojiye hem ilgi duyuyor hem de kolayca kandırılamıyor. Ancak Sora'yı, daha önce hiç yapmadığı şeyleri yaparken kendisinin yapay zekâ videolarını çekmek için kullanıyordu. Ve şimdi sorun yaşıyor. Videolarla ilgili değil. Hafızasıyla ilgili.

Mount Rushmore'a tırmanırken kendisinin yapay zeka tarafından oluşturulmuş bir videosunu hazırladı ve birkaç kez izledi. Ardından, birkaç hafta sonra, köpeğini yürüyüşe hazırlarken, Mount Rushmore'a tırmandığı o anı hatırladı. "Bu konuda bir anlık bir kafa karışıklığı hissettim. Çok silik bir anı gibiydi."

Tam olarak eksiksiz bir anı değil. Ama tamamen unutulmuş bir anı da değil .

Böyle bir hafıza seğirmesi, özellikle Sora gibi deepfake teknolojisinin birçok tehlikesi göz önüne alındığında, endişe verici görünmeyebilir. Kamuoyuna sunulmasından saatler sonra, kullanıcılar toplu katliam videoları, telif hakkıyla korunan karakterlerin kripto dolandırıcılığını teşvik etmesi, Hitler kılığına girmiş Sünger Bob gibi videolar üretmeye başladılar. Yanlış bilgilendirme, bayağılık, taciz. Bunlar gerçek sorunlar. Ancak Deutsch'ta daha incelikli ve ürkütücü bir şey oluyor. Onun küçük ama gerçek nörolojik aksaklığı, Sora gibi teknolojilerin beynin temel süreçlerinden bazılarına müdahale edebileceğinin bir işaretidir. Kimliğin ham maddesini oluşturan otobiyografik anılar gibi şeyler. Beynin bir düşüncenin gerçekliğe dayalı bir anı olup olmadığını nasıl belirlediği gibi şeyler. Sora, kendinizi deepfake etmenize izin veren ilk uygulamaydı; sonuncusu olmayacağından şüpheleniyorum. Beyinde neler olup bittiğini ve telefonunuzdaki ücretsiz bir uygulamanın artık saniyeler içinde beynin reddetmeye en az hazır olduğu türden zihinsel imgeler üretebilmesinin ne anlama geldiğini anlamak istedim.

Deutsch'un beyninde neler olup bittiğini anlamak için, "yanlış hafıza" kavramını herkesin bildiği bir terim haline getiren psikolog Elizabeth Loftus'u aradım. 1995'te yaptığı ünlü " alışveriş merkezinde kaybolma " çalışması, gerçek aile anıları arasına yerleştirilmiş uydurma bir paragraftan başka bir şey kullanmadan, insanların çocukken bir alışveriş merkezinde kaybolduklarına inanmalarını sağlamıştı. Daha yakın zamanlarda ise, MIT'nin Medya Laboratuvarı ile iş birliği yaparak , yapay zeka tarafından düzenlenmiş görüntülerden oluşturulan videoların yanlış hafıza oranlarını ikiye katlayabileceğini gösterdi.

Deutsch'un yaşadıklarını anlattığımda şaşırmadı. Yapay zekâ tarafından üretilen görüntülere veya videolara maruz kalmanın hafızayı kesinlikle kirletebileceğini söyledi.

Meraklanmıştı. MIT Medya Laboratuvarı ile yaptığı son çalışmalar da dahil olmak üzere, deepfake araştırmalarının çoğu, diğer insanlar veya olaylar hakkındaki anılara odaklanıyor. Endişe, yanlış bilgilendirme. Bir politikacının yapay zeka tarafından değiştirilmiş bir görüntüsünü görüyorsunuz ve daha sonra ne yaptığını yanlış hatırlıyorsunuz. Büyük ölçekte, kaos ortaya çıkıyor. Sora'nın sağladığı şey farklıydı: kendiniz hakkında yanlış anılar. Loftus'un çalışmalarını ilk olarak Columbia'daki bir hafıza seminerinde, 168. Cadde'deki Nöroloji Enstitüsü'nde dar bir odada otururken duymuştum. Durumlar her zaman uç örnekler gibi görünüyordu - ister zeki deneyciler tarafından kandırılan lisans öğrencileri, ister yönlendirici sorularla kafası karışmış travma geçirmiş hastalar olsun. Bunun, kısa formatlı bir yapay zeka uygulaması tarafından tekrarlanacağını düşünmemiştim. 

Beyinde neler olup bittiğini ve telefonunuzdaki ücretsiz bir uygulamanın, beynin reddetmeye en az hazır olduğu türden zihinsel imgeleri saniyeler içinde üretebilmesinin ne anlama geldiğini anlamak istedim.

Yanlış anılara neden bu kadar yatkın olduğumuzu anlamak için, beynin anıları bir telefonun fotoğrafları sakladığı gibi saklamadığını anlamak gerekir. Bir şeyi yaşadığınızda, beyninizin derinliklerinde yer alan ve deniz atına benzeyen hipokampus, bu deneyimi oluşturan parçaları bir araya getirerek kodlar: ne gördünüz, ne duydunuz, neredeydiniz, nasıl hissettiniz. Bu bir araya getirilmiş kalıp, anıyı oluşturur. Saatler ve günler boyunca, hipokampus bu kalıpları, belki de uyurken, tekrar oynatır ve konsolidasyon adı verilen bir süreçte korteksteki yerlerini kademeli olarak güçlendirir. Bu anıları telefon depolamasından bu kadar farklı kılan ve özellikle burada önemli olan şey, bir anıyı hatırlamanın beynin onu kısmen yeniden yaşaması anlamına gelmesidir. Beyin, orijinal deneyim sırasında mevcut olan aynı duyusal ve mekansal kalıpların bazılarını yeniden etkinleştirerek hatırlar. Beyniniz, parktaki o yaz pikniğinde kendinize ait sabit, statik bir anıya erişmez; Beyniniz, güneşte gözlerinizi kısarken veya ısınmış çimlerde ayak parmaklarınızı kıpırdatırken gerçekten aktifleşen sinir devrelerinin bazılarını aktive ederek bunu yeniden yaratır. Hatırlama sırasında, bu devreler tekrar, hafifçe de olsa, aktifleşir.

Hafızanın güzelliği, statik bir depolama bankası olarak değil, isteğe bağlı yeniden yaratmanın dinamik bir süreci olarak, verimli olmasıdır. Geçmişiniz hakkında muazzam miktarda bilgiye, kişisel arşivinize özel bir depolama alanı ayırmak zorunda kalmadan erişebilirsiniz. Ancak bu verimlilik riskleri de beraberinde getirir. Bir anıyı her yeniden oynattığınızda ve yeniden pekiştirdiğinizde, ince bir şekilde değişebilir. Hatırlama sırasında düşündüğünüz diğer şeyler, hatırlarken nasıl hissettiğiniz, benzer nöron kalıplarını harekete geçiren diğer benzer anılar; bunlar karışabilir ve nihayetinde orijinal anının yeniden pekiştirilmesini değiştirebilir. Ve bir kez değiştiğinde, altın standartta saklanmış bir sürüm olmadığı için geri dönmez. Sadece en son oynatma vardır. Ve anılar, esasen, belirli duyusal ve diğer sinirsel aktivite kalıplarının yeniden etkinleştirilmesi olduğundan, bu, yalnızca duyusal kalıpların anı olarak pekiştirilebileceği anlamına gelir. Bu yanlış bir anı. Ve yanlış bir anı, bir kez ekildiğinde, gerçek anılarla aynı mekanizmadan yararlanır. Ve beynin gerçekleri kontrol eden bölümü olan prefrontal korteks olay yerine geç geliyor: duyusal ve diğer sinir yollarının yeniden etkinleştirilmesi çoktan başlamış, hafızanın gerçek olup olmadığına dair herhangi bir değerlendirme yapılmadan önce hafıza yeniden yapılandırması çoktan devam ediyor.

Bunların herhangi birini deepfake uygulamasına uygulamak henüz keşfedilmemiş bir alan, ancak Loftus ile konuşurken, yanlış hafıza biliminin nasıl uygulanabileceğini görmeye başladım. Zamanın geçmesi muhtemelen önemli olacaktır. Başlangıçta, bir kişi belirli bir video oluşturduğunu hatırlayabilir ve zihin içeriği yanlış olarak reddedebilir. Ancak oluşturma anısı kaybolurken içerik devam ederse, prefrontal gerçek kontrolü savunmaları ortadan kalkmaya başlar. Yanlış hafızanın gerçek gibi hissettirme olasılığı daha yüksektir. Yanlış hafızalar, videoya tekrar tekrar maruz kalmayla muhtemelen güçlenecektir - yanıltıcı gerçek etkisi, tekrarın yanlış iddiaların daha doğru hissettirdiğini gösterir ve yanlış otobiyografik hafıza çalışmaları çoğunlukla pasif izlemeden ziyade aktif öneriyi içerirken, birden fazla oturum kullananlar tutarlı bir şekilde daha güçlü etkiler üretti. Bu nedenle, yanlış Sora anıları muhtemelen videoya tekrar tekrar maruz kalmayla güçlenecektir - esasen, Sora beyindeki tekrar oynatma süreçlerini uyararak yanlış hafızanın daha da pekişmesine yardımcı olacaktır. Ve bunların yapay zeka tarafından oluşturulduğunu bilmek önemli olmayabilir: Loftus'un MIT çalışmasında, içeriği "yapay zeka ile geliştirilmiş" olarak etiketlemek yanlış hafıza oluşumunu engellemedi. Muhtemelen yapay zekâ tarafından üretilen videolara, alıştığımız ve tartışılmaz gerçek olarak kabul ettiğimiz türden dış kayıtlara benzedikleri için daha çok itibar etme eğiliminde oluruz. Sora bu dinamiklerin her birinden faydalandı: cebinizde ve sonsuz kez tekrar tekrar izlenebilir, kendinizin sentetik videosu, telefonun fotoğraf galerisine zaten verilmiş olan yetkiyi gizlice devraldı.

Bu güçlerin nasıl bir araya geldiğini göstermek için Loftus kendi dokunaklı anısını paylaştı. “Los Angeles'ta büyük bir yangında evim yandı. Bu lise yıllarımdaydı. Ama tesadüfen bir dergide yayınlanmıştı—fotoğraflar vardı.” Yıllar boyunca o dergiye defalarca bakmıştı, tıpkı Deutsch'un Mount Rushmore videosuna tekrar tekrar dönmesi gibi. “Ve tüm anılarım sadece bu dergide olanlardan ibaret. Şimdi, bana burada olmayan başka bir şey sorsanız, sanırım size söylemekte zorlanırım.”

Tekrar tekrar ziyaret edilen bir olayın dışsal kaydı, hatırladığınız şey haline gelir. Bu bana, etiketlerin ve teknoloji okuryazarlığının, Loftus'un MIT araştırmasında "sentetik anılar" veya yapay zeka tarafından hiç gerçekleşmemiş olayların yerleştirilen anıları olarak adlandırdığı şeyden zihnimizi korumada neden ancak belirli bir yere kadar etkili olabileceğini açıklıyor. Hilenin nasıl işlediğini tam olarak bilseniz bile yine de tuzağa düşebilirsiniz çünkü üstbiliş kodlamayı geçersiz kılmaz. Duyduğum önerilen çözümler (etiketler, uyarılar, yapay zeka okuryazarlığı girişimleri gibi) muhtemelen yardımcı olacaktır, ancak yalnızca kısmen, çünkü bunlar bilmenin yeterli olduğunu, biyolojinin öne sürdüğü gibi, hafıza oluşumu üzerinde bilinçli bir farkındalık ve kontrol düzeyine sahip olduğumuzu varsayarlar; oysa biyoloji bunu basitçe göstermez. 

Elbette, Loftus'un ev yangını hakkındaki anısı ile Deutsch'un Lincoln'ün burnuna tırmanma hayali arasında büyük bir fark var. Biri gerçekti, diğeri değildi. Sadece gerçek dışı değil, aynı zamanda olasılık dışıydı . "İnandırıcı ve inandırıcı olmayan şeyler arasında bir ayrım yapardım," dedi. "Eğer aniden Sibirya'daki bir Rus hapishanesinde sizin bir fotoğrafınız belirirse ve siz hiç orada bulunmadıysanız, bunu elbette reddedebilirsiniz. Belki kendinizi görmek size garip bir his verebilir, ama sadece orada hiç bulunmadığınızı bileceksiniz."

Tamam, haklısın. Deutsch'un "anlık kafa karışıklığı"nın endişe edilecek bir şey olduğunu söylemenin biraz abartı olabileceğini düşünmeye başlamıştım. Ama sonra başka bir Sora kullanıcısıyla konuştum ve işler daha da tuhaf bir hal aldı.

Elena Piech, büyük eğlence ve teknoloji şirketleri için sanal gerçeklik gibi sürükleyici deneyimler geliştirmekle yıllarını geçiren bir etkileşimli yapımcıdır. Aylardır yapay zeka video araçlarıyla deneyler yapıyordu, ancak Sora'da farklı bir şey vardı. Konuştuğumuzda, hayali sahnelerde kendini izlerken tam olarak ne olduğunu anlamaya çalışıyordu. Bir örnek verdi: Avatarının, Blade Runner tarzı fütüristik bir şehre bakan dev bir ekranı izlediği bir video.

O yerin gerçekte var olmamasına ve ziyaret edemeyeceğini bilmesine rağmen, o manzaranın panoramasını, orada olmanın, şehre tepeden bakmanın nasıl bir his olduğunu tarif edebileceğini söyledi.

Piech'in anlattığı şeyin, fark ettiğim kadarıyla, mekânsal hafızayla ilgili olduğunu anladım: beynin, yaşadığınız ortamların üç boyutlu düzenini kodlama ve yeniden oluşturma kapasitesi. Çocukluk odanızı hatırladığınızda, sadece bir görüntüyü hatırlamazsınız; zihinsel olarak mekânda dönebilir, kapının pencereye göre nerede olduğunu hissedebilir, odanın oranlarını algılayabilirsiniz. Hipokampus bu süreçte merkezi bir rol oynar ve nörobilimcilerin bazen bilişsel haritalar olarak adlandırdığı, gerçek navigasyon ve duyusal deneyimlerden oluşturulan içsel mekân modellerini inşa eder. Normalde, kurgu bu tür bir kodlamayı üretmez. Piech bana yakın zamanda Friends dizisini ilk kez izlemeye başladığını ve aynı şeyi yapamadığını söyledi. Set iki boyutlu, düz, gözlemlenen ama asla yaşanmayan bir yer olarak kaldı. Ancak Piech, Sora nesilleriyle, sentetik benliğinin etrafındaki mekânsal düzeni, var olması mümkün olmayan bir Blade Runner şehir manzarasının panoramasını ve derinliğini hissedebildiğini söyledi . Bunu "3 boyutlu zihin haritası" olarak tanımladı; genellikle gerçekten bulunduğu yerlerle ilişkilendirdiği mekânın içgüdüsel bir hissi. Deutsch sinirsel bir dalgalanmayı tanımlamışsa, Piech bir dalgayı tanımlıyordu; dağılmayan, aksine uzak beyin bölgelerinin kıyılarına ulaşana kadar yayılan ve hiç ziyaret etmediği yerler için mekânsal anıların kodlanmasını tetikleyen elektrokimyasal bir bozulma.

New Hampshire Üniversitesi'nde psikoloji alanında emekli profesör olan ve belirli anların hafızaya nasıl yerleştiğini ve hayatlarımızı nasıl şekillendirdiğini inceleyen David Pillemer, bir ipucu verdi. Bana, bir anı görsel bir imge içeriyorsa, onu hatırlayan kişinin bunun gerçekten yaşandığına inanma olasılığının daha yüksek olduğunu söyledi. Kendinizi sahnede görmek, canlı anıların ayırt edici özelliğidir. Bunun evrimsel bir mantığı olduğunu açıkladı. “5000 yıl önce hayatınız tehlikedeydi ve su birikintisinin yanındaydınız ve kaplan geldi, eğer olanların görsel bir imgesine sahipseniz, o imgeyi sadece aklınızda tutmak değil, ona inanmak, ona güvenmek de iyidir. O su birikintisinden uzak durursunuz.” Görsel sadece deneyimi kaydetmekle kalmaz; güvenilirlik de kazandırır. Yoga öğretmenini düşündüm—dreadlock'lu Fransız akrobat, stüdyo, karımın oturduğumuzu söylediği yer. Onun kanıtı gerçeğe yakın bir zihinsel imgeydi. Benimki ise bir argümandı. Pillemer bana beynin hangisine güvendiğini söylemişti. Ve binlerce nesil boyunca gerçek su kaynaklarına ve gerçek yırtıcı hayvanlara göre kalibre edilmiş bu kadim güven, görüntünün bir sunucu çiftliğinde oluşturulup oluşturulmadığını belirleyecek bir mekanizmaya sahip değil. 

Piech'in deneyimi, Sora videolarının mekânsal hafızayı harekete geçirebileceğini, yani Sora videolarının beynin gerçek ile hayali ayırma konusundaki daha temel sistemlerini de bozabileceğini gösteriyor. Bilişsel psikolog Marcia K. Johnson'ın 2006 tarihli bir makalesinde yazdığı gibi , "Düşünmesi rahatsız edici olsa da, gerçek ve yanlış anılar aynı şekilde ortaya çıkar. Anılar, zihinsel deneyimlerimiz hakkında öznel niteliklerine, önceki bilgi ve inançlarımıza, güdülerimize ve hedeflerimize ve sosyal bağlama dayanarak yaptığımız atıflardır." Johnson'ın, beynin gerçekliği hayalden ayırma süreci olan kaynak izleme üzerine yaptığı çalışma, beynin " bu gerçekten oldu" diyen bir etiketi, bir damgası olmadığını ortaya koydu . Bunun yerine, bir sahnenin hatırlama sırasındaki nitelikleri - ne kadar canlı olduğu, mekânsal olarak ne kadar tutarlı olduğu, kendiliğinden mi geldiği yoksa yeniden oluşturmak için çaba gerektirip gerektirmediği - onu gerçek veya hayal ürünü hissettiren şeydir. Gerçek olaylara ait anılar genellikle daha zengin, mekân ve bağlam içinde daha yerleşiktir. Hayal edilen sahneler veya filmlerden hatırlanan sahneler daha yüzeysel, daha şematik olma eğilimindedir. Ancak dağılımlar örtüşür ve beyin, hafızayı hayal gücünden ayırmak için bu kusurlu ipuçlarına güvenir.

Sorun şu ki, bu ipuçları yanıltıcı olabilir. Sentetik bir deneyimi hatırlamak beyni yeterince geniş bir şekilde harekete geçirirse—zengin algısal ayrıntı, mekânsal derinlik, bir yerde bulunmuş olma hissi, biriyle birlikte olmuş olma hissi—bu artık fantezi olarak değil, anı olarak algılanmaya başlar. Piech'in Sora'ya dair anıları, bu niteliklerin yeterince çoğunu barındırdığı için aradaki ayrımı bulanıklaştırıyordu.

Fantastik veya tuhaf videoların Piech'i en çok rahatsız edeceğini bekliyordum, ama durum böyle değildi. En rahatsız edici olanlar, Sora'nın görünüşe göre başlatma videosunun arka planından yola çıkarak tahmin ettiği, dairesinde çekilmesini istediği videolardı: bir televizyon görüntüsü, duvarda iki resim çerçevesi; modelin, kendi ifadesiyle, "yüzde 65'i doğru" hissettiren bir şey üretmesi için yeterliydi. Duvar renkleri kabaca doğru, televizyon doğru yerde, resimler yeterince yakındı. İlk içgüdüsü, OpenAI'nin bir şekilde kamera rulosuna eriştiğiydi. Erişmemişlerdi; Sora, muhtemelen uygulamayı başlatmak için kullandığı selfie parçacıklarından yola çıkarak, kendi oturma odası konusunda onu kısa süreliğine kandırmayı başarmıştı.

Loftus'un işaret ettiği inandırıcılık eşiği buydu. Bir Rus hapishanesini reddetmek kolaydır; tanıdık gelen şeyleri bildiklerinizle karşılaştıran daha sistematik bilişsel süreçler vardır ve Rusya'ya hiç gitmediğinizi biliyorsunuz. Ancak %65 doğrulukla oluşturulmuş kendi daireniz bir belirsizlik bölgesinde yer alır. Bu, peririnal korteksten geçen ve kısmen bilinçaltında çalışan aşinalık devrelerini harekete geçirir. Piech'in Sora tarafından oluşturulan dairesi, gerçek oturma odasının yeterince özelliğini (TV yerleşimi, duvar rengi, resimlerin yeterince benzer olması) eşleştirdiğinde, peririnal nöronları harekete geçirerek, onu sentetik olarak reddedecek rasyonel savunmaların ötesine geçmek için yeterli nöral doğrulama sağladı. Gerçek gibi hissetmeye başladı.

Sonra da jet ski videosuyla olanlar var. Piech ve Deutsch birbirlerini tanıyorlar ve Sora, kullanıcıların birbirlerinin nesillerinde görünmelerine izin veriyordu, bu yüzden Deutsch, Barracudas adlı bir çete içinde Doğu Nehri'nde jet ski yaparken ve feribottaki turistlere laf atarken ikisinin videosunu çekti. Piech videoyu izlerken güldü, ama aynı zamanda garip bir his de yaşadı. "Bunu size anlatmak garip," dedi. "Açıkçası bu sadece bir video. Ama bir şekilde sanki—ah evet, birlikte takıldık. Beynim bir şekilde, 'evet, bu bir sosyal etkileşim' diyor." Sinir dalgası daha da yayılarak, sadece yeri değil, sosyal bağlantıyı da kodlayan beyin bölgelerine ulaşmıştı.

Bütün bunlardan ne anlam çıkaracağımı bilmiyorum. Var olmayan bir yerin silik bir mekânsal anısı, hiç gerçekleşmemiş bir etkileşimden gelen bir sosyal bağlantı parıltısı—bunlar nörolojik merak uyandıran şeyler, bir akademisyenin masasında saklanacak tuhaflıklar gibi görünebilir ama 5000 kelimeye konulacak şeyler değil. Ama kendimi bir türlü atamadığım bir şekilde huzursuz hissediyorum. Sora sadece yapay zeka saçmalığı üretmiyordu. Burada aktive edilen sinir sistemleri—sosyal bağlantıyı kaydeden, kim olduğunuzun ham maddesini oluşturan, gerçeği hayalden ayıran sistemler—rastgele bir uygulama tarafından erişilmemeli. Gerçek deneyim gerektirmeli. Ve yine de...

Ne kadar endişelenmeniz gerektiğini söylemeyeceğim. Ama bunun ne anlama gelebileceğini iyice düşünmek istiyorum.

Ama içimde bir huzursuzluk var ve bu huzursuzluğu bir türlü atamıyorum.

Olası sonuçlardan biri, bu araçların büyük ölçekte kimliği nasıl şekillendirebileceğidir. Özellikle Deutsch'un ortaya attığı bir terim dikkatimi çekti: propaganda , yani kendinize yönelik propaganda. Propaganda kolektif hafızayı şekillendirerek işliyorsa, propaganda daha atomize, daha samimidir. Siz hem propagandacı hem de hedefsiniz, tek bir izleyici için var olmayan bir benlik versiyonu oluşturuyorsunuz. Deutsch'un spekülasyonunu test etmeme yardımcı olması için Northwestern Üniversitesi psikoloğu Dan McAdams'ı aradım. McAdams, etkili bir kavram olan anlatısal kimliği geliştirdi ; kimliğin otobiyografik anılardan oluştuğu, yarınki benliğinizin bugün sahip olduğunuz anılardan inşa edildiği fikri. Anıları kirletirseniz, kimlik değişebilir. Deutsch gibi Sora kullanıcılarının deneyimlediklerini anlattığımda, McAdams bu fenomeni henüz duymadığını, "ama biraz düşününce bunun kaçınılmaz olduğunu" söyledi. Bu yapay zekâ videoları "nihayetinde 'başıma gelen şeyler' ve belki de ' hayat hikayemin bir parçası olan önemli şeyler ' olarak kodlanıp yeniden işlenebilir . " Başka bir deyişle, propaganda sadece zekice bir kelime uydurma değil. Kimliğinizi yeniden yazmak için kullanılan bir mekanizmaya verilen isimdir.

Umut verici bir okuma bulmak zor değil. Piech, akıcı ve kendinden emin bir şekilde, yapamadığı hareketleri sergilediği bir K-pop dans videosu çekti. Bana anlattığına göre, videoyu birkaç kez izledikten sonra, belki de gerçekten yapabileceğini hissetmeye başladı. Sporcular on yıllardır görselleştirmeyi kullanıyor; belki de Sora sadece daha canlı bir format sunuyordu. Travma ile çalışan terapistler, hafızanın faydalı bir şekilde değiştirilebilir olduğunu uzun zamandır biliyor; belki de Sora gibi araçlar, dikkatlice kullanıldığında, insanların onları rahatsız eden sahneleri yeniden gözden geçirmelerine yardımcı olabilir. 

Ancak bu araçları kimin geliştirdiğini düşünün. OpenAI, kullanıcı istemlerinin ve çıktılarının varsayılan olarak modeli eğittiğini doğruladı ; bu arada, kaydedilen, paylaşılan veya yeniden oluşturulan videolar neredeyse kesinlikle akışı şekillendirdi. Kullanıcılar kendinden emin görünen videoları kaydediyor ve garip olanları yeniden oluşturuyor. Milyonlarca etkileşim boyunca sistem, iltifata doğru kayıyor. On yıldan fazla süredir yapılan sosyal medya araştırmaları, başkalarının idealize edilmiş görüntülerine maruz kalmanın zararlarını belgeledi. Ancak her zaman bir kaçış yolu olmuştur: Karşılaştırma başkasıyla yapılır. Bu kaçış yolu işe yarıyor çünkü karşılaştırma, kendini ve diğerini birbirinden ayrı tutmayı gerektiriyor. İdealize edilmiş görüntü siz olduğunuzda ne olur? Bellek araştırmasının öne sürdüğü şey, Sora nesillerinin zamanla bu savunmanın altına kaymış olabileceğidir. Gerçek otobiyografiniz ile sentetik olarak aşılanmış, ticari olarak kirlenmiş otobiyografiniz arasındaki boşluk, gerçek hayatınızın en başından beri size ait olmayan bir anlatı kimliğine uymaması nedeniyle yaygın bir yetersizlik duygusuna yol açar. Deutsch, yorgun bir şekilde, "İnsanların pazarlama ve bu teknolojiyle neler yapabileceği şu anda birçok insanı heyecanlandırıyor," diye belirtti.

Aylardır uygulamayı kullanan 17 yaşındaki bir kız için bunun nasıl işlediğini hayal edin. Ona yüzünü, sesini, davranışlarını vermiş. Uygulama, taramalarından mezuniyet elbiselerine baktığını biliyor. Ama Sora akışında görünen video özel bir şey değil; sadece kendi yatak odasında, normal bir sabah gibi görünen bir günde okula hazırlanırken, alamayacağı bir markanın elbisesini giymiş hali. Sentetik versiyonu olağanüstü bir şey yapmıyor. Sadece biraz daha iyi bir gündeki haline benziyor. Cildi biraz daha temiz, saçları biraz daha bakımlı. Bu arada, elbise etiketlenmiş ve satın alınabilir. Instagram'da, başkasının fotoğraflarına bakarken, kendini başkasıyla karşılaştırır ve buna karşı daha fazla psikolojik savunma mekanizması vardır: Diğer kişinin akışı düzenlenmiş, gerçek hayat değil ve bu nedenle karşılaştırma adil değil. Bu savunma her zaman işe yaramaz, ama mevcuttur. Sora farklıydı. Hissettiğimiz şey kıskançlık değil. Bu daha çok kafa karışıklığına benziyor. " Keşke onun gibi görünseydim" değil , " Neden onun gibi görünmüyorum?" ya da daha da sinsi olanı, " Neden kendime benzemiyorum?" Ve eğer bu videoları aylardır izliyorsa, hafıza araştırmaları, yapay zeka videolarını hatırlamanın yapay zeka videolarının anıları olarak kaydedilmeyeceğini gösteriyor. Bunlar, yarım yamalak hatırladığı sabahlar, işlerin biraz daha kolay bir araya geldiği günler gibi belirsiz bir şekilde hissettirecek. Gerçek aynasında, her gerçek sabah, her zaman kötü bir gün gibi hissettirmeye başlayacak; bu da tam olarak tüm deneyimin üretmek için tasarlandığı ve "Satın Al" düğmesinin çözmek için hevesle konumlandırıldığı duygu.

Ancak potansiyel psikolojik sonuçlara ek olarak, beni rahatsız eden başka bir şey daha vardı: Otobiyografik hafıza gibi son derece özel bir şey bile izole bir şekilde oluşmaz. Temelde sosyaldir. Bilim insanlarının sevgiyle " anne anımsaması" olarak adlandırdığı bir süreçte , çocuklar bakım verenlerle diyalog yoluyla deneyimlerini bir hikayeye dönüştürmeyi öğrenirler; bu süreç yaşam boyu devam eder : yaklaşan veya şüpheci bakan arkadaş, olayı farklı hatırlayan eş, olayı yeniden çerçeveleyen bir soru soran dinleyici. Dinleyicinin dikkat dağınıklığı düzeyi bile kendi anılarımızı ne kadar iyi hatırladığımızı etkileyebilir. Bir deneyde , bir psikolog katılımcılardan gizlice dikkati dağılmış bir arkadaşlarına bir hikaye anlatmalarını istedi. Bir ay sonra, konuşmacılar kendi deneyimlerini daha az iyi hatırladılar, çünkü dinleyicinin hikayeyi yeniden anlatırkenki davranışından etkilenmişlerdi. Dikkatli dinleyici sadece anıyı almıyor; onu inşa etmeye de yardımcı oluyor.

Şimdi, arkadaşınızın paylaşmadığı, çünkü hiç yaşanmamış bir şeyden bahsettiğinizi hayal edin. Boş bakış. Garip sessizlik. Belki de bunu hayal ettiğinizi düşünerek kendinizi sorgularsınız. Belki de onları sorgularsınız. Ya da belki de konuyu tamamen açmayı bırakıp, gerçek insan sosyal etkileşiminden uzaklaşarak, asla karşı çıkmayan, her zaman onaylayan yapay zekâ simülasyonlarına yönelirsiniz. Yalnızlık içinde doğan sahte anı, konuşmaya girdiğinde tekrar yalnızlık üretir.

Piech, sezgilerini desteklemek için sosyal psikolojiye başvurmasa bile, bunu düşünüyor gibiydi. Partneri iki aylığına seyahate çıkacaktı ve Piech, Sora'yı kullanarak bir bağ kurup kuramayacağını, birlikte oldukları videoları çekip, partnerini özlediğinde izleyebileceği bir şeyler yapıp yapamayacağını düşünmeye başladı. Sonra bunun gerçekte ne anlama geleceğini düşündü: bir kişinin diğerinin hiç görmediği ortak deneyimlerden oluşan bir arşiv biriktirmesi, sadece bir tarafta var olan bir ilişkinin anılarını oluşturması. "Ya hepsini izlesem de o izlemese?" dedi, "ve şimdi onun hiç bilmediği bu şeylerden bahsediyor olsam?" Videoları yapmamaya karar verdi.

Piech, Sora'nın ilişkisine ne yapabileceğini merak ettiği için durdu. Ben ise başlayamadım bile. Sora'nın App Store sayfasına en az iki kez girip uygulamayı indirmiş, sonra silmiştim. Ardından davet mesajını "okunmamış" olarak işaretleyip daha sonra daha detaylı düşüneceğime yemin etmiştim. Sora'yı indirmemek için zaten sebeplerim vardı; veri gizliliği ve dünyanın daha fazla yapay zeka tarafından üretilen saçmalığa ihtiyacı olup olmadığı sorusu gibi bilindik sebepler. Bana bir akşam yemeğinde sorsanız da aynı sebepleri verirdim. Mantıklı, açıklanabilir ve Deutsch bana o tuhaf hafıza seğirmesinden bahsetmeden önce de hepsi yerli yerindeydi.

Muhtemelen hafife aldığım şey, bu teknolojiye karşı kendi savunmasızlığımdır. Gerçeği hayalden ayıran psikolojik ve nörolojik mekanizmalar –Pillemer'in tanımladığı, Johnson'ın haritasını çıkardığı, Piech'in var olmayan bir şehirde kendini izlerken etkinleştiğini hissettiği mekanizmalar– her zaman daha iyi bilen yanınızla görüşmez. Yapay zeka okuryazarlığınıza, doktora derecenize veya OpenAI'nin gizlilik politikasına yönelik sağlıklı şüpheciliğinize danışmazlar. Tüm bunların altında işlerler ve resimlere güvenirler.

Yoga dersi olayı komik ama aslında mesele, karımın yanlış bir hafızaya sahip olup olmadığı veya benim gerçekten olmuş bir şeyi unutup unutmadığımla ilgili basit bir soru. Dürüst olmak gerekirse hangisi olduğunu bilmiyorum ve haklı olduğumdan ne kadar emin olsam da, nörobilim bu güvenin yersiz olduğunu öne sürüyor ve bunu kabul ediyorum. Yıllar sonra, karımla önemli bir olaylar dizisi hakkında farklı anlatımlarımız oldu. Bir süre bu konu hakkında hiç konuşamadık. Yanlış hatırlanan bir yoga eğitmeni değil, görünüşe göre ikimiz de paralel versiyonlarda, uzlaştırılamayan, birlikte yaşadığımız bir dönemdi. Detaylara girmeyeceğim. Bu, yoga eğitmeninden biraz farklıydı. Burada, iki kişi aynı olaylara gerçek zamanlı olarak şahit olduklarını kabul etti, ancak bunları farklı şekilde deneyimlediler (bunun neden olduğu tüm sebeplerden dolayı - açlık, duygusal durum, geçmiş deneyimler, dikkat vb.). Bu deneyim farklılığı da farklı anılara yol açtı - belirli ayrıntıları bastırma, bir eylemi farklı bir ışıkta gösterme şeklimiz. Birimizin doğru, diğerimizin yanlış hatırladığını söyleyebilirsiniz, ancak gerçeklik daha karmaşık. Olayları, anıların her zaman oluştuğu şekilde hatırlıyorduk: öznel ve kendine özgü bir şekilde. Zamanla hafıza, özünde bir öykü anlatımıdır. Ve zamanla, her biri kendi ayrıntılarıyla dolu iki ayrı anlatıya yerleştik. 

En zor kısım anlaşmazlığın kendisi değil, ondan alınan şeydi: " Hatırlıyor musun?" diyebilme ve karşıdakinin başını sallaması gibi günlük hayattaki yetenek. Bir ilişkinin ne kadarının ortak arşive, pazarlık yapmadan her ikinizin de ulaşabileceği şeylere dayandığını, bunlar ortadan kalkana kadar anlamıyorsunuz. Bunu atlattık, ama vardığımız şey bir yargıcın davanın gerçeklerine karar vermesi gibi bir kapanış değildi. Daha zengin ve insan deneyimine daha uygun bir şeydi: Başka bir insanın hafızası ve deneyimi sizinkinden farklı olabilir ve birini sevmek, bu farklılıktan tehdit edilmek yerine onu kabul etmektir; mükemmel bir şekilde kopyalanmış ortak bir hafıza bankası, birlikte bir hayat kurmanın ön koşulu değildir. 

Eşimle ben, farklı anlatılarımızı eski usulde, yakınlık, zaman ve iki beynin aynı olayları farklı şekilde kodlayıp çözmesiyle oluşturduk. Sora ise bunu sizinle ekran arasında kapalı bir döngüde yaptı. Kimse itiraz etmedi, kimse bunun böyle olmadığını söylemedi. Anı, hayatınızı gerçekten paylaşan biriyle bir sohbete girdiğinde, zaten sizinmiş gibi hissettiren bir şeye dönüşmüş oluyor.

Oğlumuz uyuduktan sonra bazı geceler, eşimle birlikte kanepede oturup günümüzü birbirimiz için yeniden kurgularız. Kahvaltıda ne dediği, yoğurt kaşığıyla yaptığı tuhaf şey, yatmadan önce oyalanma taktiklerinin gerçekten o kadar garip olup olmadığı veya ikimizin de sadece yorgun olup olmadığı gibi. Bazen, ikimiz de orada olsak bile, ayrıntılar konusunda anlaşamıyoruz gibi görünüyor. O, benim fark etmediğim bir şeyi işaret eder, ben ikimizin de fark ettiği bir şeyi farklı yorumlarım veya o, onun hareketlerini bir önceki günkü benzer hareketlerle ilişkilendirerek bir yorum katmanı ekler. Anlatı biraz değişir, ikimize de uyacak şekilde biraz ayarlanır ve biz ilerlediğimizde, ikimiz de tam olarak deneyimlemediğimiz bir şeyin anılarını birleştirmeye başlarız - ki bu, sonunda rahatsız edici gerçektir: Hafıza ve deneyim eş anlamlı değildir. Eskiden bu süreci daha çok gerçekleri kontrol etmeye, gerçeği süslemelerden, gerçekliği yorumdan ayırmaya benzetirdim. Ama tam olarak öyle değil. Gerçekleri kontrol etmekten daha anlamlı bir şey: orada oturup, onları birlikte hatırlamak.

Tim Requarth, NYU Grossman Tıp Fakültesi'nde lisansüstü bilimsel yazarlık direktörü ve sinirbilim alanında araştırma görevlisi doçenttir. Burada yapay zekanın bilim insanlarının düşünme, öğrenme ve yazma biçimlerini nasıl değiştirdiğini inceliyor. Yapay zekanın bilişsel süreçler üzerindeki etkilerini bir sinirbilimcinin bakış açısından ele alan " Üçüncü Yarımküre " adlı bir bülten yazıyor. Makaleleri ve haberleri The New York Times , The Atlantic ve Slate'te yayınlandı ; Slate'te katkıda bulunan bir yazardır.