Çevirmenin notu: Yapay zekâ botları ve yeni teknolojilerin kademeli olarak gelişimine dair çocuk sahibi bir ilkokul öğretmeninin yorumu. Sorduğu sorular ve taşıdığı kaygıları çoğu insanın paylaştığına kuşku yok.
ChatGPT, bebek arabası ve otomasyon endişesi
Amanda Parrish Morgan — Wired
28 Şubat 2023
Artık tereyağını elle krema haline getirmem ya da çocuklarımın kazaklarını örmem gerekmediği için kendimi kötü hissetmiyorum, peki büyük dil modellemeleri neden farklı hissettiriyor?
Geçen sonbahar bebek arabaları ve onların çocuklara ve bakıcılarına yönelik tutumlarımız hakkında ortaya koyduklarına dair bir kitap çıkardım. Stoller’ı kısmen çağdaş Amerikan ebeveynliğinin tüketim kültürünün bir eleştirisi olarak sunmuş olsam da bebek arabamı [çokça] sevmeye başladım. Çocuklarımı arabamızda önümde iterek rutin olarak koştuğum yıllarda üniversitede atletizm takımımın kaptanıyken yaptığımdan daha hızlı yarış süreleri kaydettim. Pandeminin uzun ve klostrofobik ilk günlerinde oğlum ve ben, mahallemizin kaldırımlarında yavaşça bir aşağı bir yukarı dolaşarak New England’a gelen o geç ve soğuk bahara şahit olduk. Çoğu zaman bebek arabasıyla yaptığımız uzun yürüyüşün veya koşunun sonunda çocuklarım uyuyakalırdı ve sıcak günlerde de onlar uyurken çalışmak için onları gölgeye, kendimi güneşe park ederdim, kendi kendine yetme ve tutumluluğun gurur verici bir karışımını hissederdim [çocuk bakımı koşmayı veya teslim tarihine yetişmeyi gerektirmez].
Kitabımın çıkmasından sonraki aylarda dostlarım ve ailem bana ikonik yerlerde [Brooklyn Köprüsü, Yüksek Mahkeme önündeki protesto, Buckingham Sarayı] bebek arabalarını iterken çekilmiş fotoğraflarını gönderdiler: İşte ben de çocuklarımla birlikte macera dolu bir hayat yaşıyorum. Gelen kutumda 92. Cadde Y’nin dışında UppaBaby Vista bebek arabalarından oluşan bir filonun, arabalarla değil bebek arabalarıyla dolu bir banliyö garajının, kaçak bebek arabalarının film kliplerinin ve sürücüsüz bebek arabalarıyla ilgili birden fazla hikâyenin fotoğrafı vardı. Eşimin kuzeninin çektiği bir videoda bir kadın koşu yapıyor, kollarını bir bebek arabasının yanında sallıyor ve bebek arabası da onun hızına ayak uyduruyordu. Bu videoya, hazır cevap biçimde 100 kilodan fazla ağırlığa sahip Double BOB’umu itmek zorunda kalmadan koşmanın ne kadar hızlı olacağına dair karşılık verdim.
Bu türden bir rahatlık, gelen kutumun bu kez ChatGPT ile ilgili başka bir e-posta telaşıyla dolmaya başlamasından önceki zamanın kalıntısıydı. Uzun yıllar lisede İngilizce öğretmenliği yaptım ve şimdi de birinci sınıflara kompozisyon dersi veriyorum, bu nedenle yeni — korkutucu, şaşırtıcı, büyüleyici veya distopik, nasıl gördüğünüze bağlı olarak — büyük dil modellemeleri ve bunların yazma ile öğretim arasındaki ilişkide olan rolü hakkındaki haberler genelde dostlarıma ve aileme beni hatırlatıyordu. Herkesin kendi lise yıllarıyla ilgili çok sayıda [genelde sıkıntılı] anıları olduğundan ve pek çok arkadaşımın şu anda eşim ve benim eğittiğimiz öğrencilerin yaşlarında çocukları olduğundan sosyal ortamlarda iş hakkında çok sık konuşuyoruz. Birden fazla AP dersine kayıtlı lise öğrencileri ne kadar stresli? Öğrencilerimizin hafta sonları Euphoria’dan bir bölüm gibi mi, yoksa, — bu epey endişe verici olurdu — 90’ların sonlarında kendi ergenlik partilerimize mi benziyor? Öğrencilerimizin niçin daha donanımlı olmalarını isteriz? Onları sınıfta telefonlarından nasıl uzak tutabiliriz? Ve son olarak ChatGPT ile ilgili haberler toplumun giderek genişleyen halkalarında yayıldıkça sürücüsüz bebek arabalarıyla ilgili e-postalara eşlik edenlerden çok da farklı olmayan sorular almaya başladım: Bildiğimiz hayatın otomasyon tarafından değiştirilmesi konusunda ne yapacağız?
ChatGPT’yi ilk kez eşimden duydum. Kendisi lisede fizik ve bilgisayar programlama dersleri verdiğinden İngilizce bölümündeki meslektaşlarım ve ben daha ChatGPT’yi duymadan çok evvel onun radarına girmişti. Bana, “Yakında herkes bunu konuşacak”. Elbette haklıydı ama o ilk gece akşam yemeğinde, onun tahminlerini panikçi ya da bilgisayar programlama öğretmenlerinin niş endişeleri olarak sayıp reddetmek daha kolaydı.
İlk cevabım yapay zekanın makalelere kıyasla öğrenci kodlarını taklit eden çalışmaları ne kadar kolay üretebileceği konusunda önemli farklılıklar olduğu konusunda ısrar etmek oldu. Ancak göz ardı edemediğim şey, ikimizin de verebileceği ödevlerden veya belirli öğrencilerimiz için çıkarımlardan çok daha geniş bir endişeydi: Programın kendisinin etik ve felsefi çıkarımları. Nick, ChatGPT’nin bir sinir ağı olduğunu açıkladı. Nick “O halde…” diye bana sordu: “ChatGPT’yi oluşturan bu sinir ağlarını bizim biyolojik nöron ağımızdan farklı kılan nedir?” Karbon bazlı yerine silikon olmaları gerçeği mi? Neden karbon temelli bir ağ bilincin gelişmesine olanak sağlarken silikon temelli bir ağ buna olanak sağlamıyordu? Tüm bu farkı sekiz ekstra proton nasıl olur da yaratabilir diye sordu. Nick’in düşünce tarzı benim için tahammül edilebilir değildi. Elbette bizi insan yapan karbonun ötesinde bir şey — belki de kelimelere dökemediğimiz, hatta varlığını ispatlayamadığımız bir şey — olduğu konusunda ısrarcı oldum. Duygulara, bağlara ve ilişkilere işaret etsem de bu insan yapan şeyin ne olduğunu tam olarak ifade edemedim.
Bugün zevk alarak tartışacağım bebek arabalarının aksine ChatGPT hakkında konuşmaktan nefret ediyorum ama yine de her zaman kendimi bunu yaparken buluyorum ve çoğu zaman da konuyu açan kişi ben oluyorum.
Bahar sömestrinin başında öğrencilerime düşünmeleri için bir metafor verdim: Bir yazma ödevini tamamlamak için ChatGPT’yi kullanmak [bunu yaptığını söylemeden] spor salonuna gitmek, koşu bandını saatte 10 mil hıza ayarlamak, 30 dakika çalıştırmak, ekranının fotoğrafını çekmek ve ardından altı dakikalık bir tempoda 5 mil koştuğunu iddia etmek gibi değil miydi? Bu olmuş gibi görünebilir ve öğrenci, çok pasif bir şekilde illüzyonu hayata geçirmekten sorumlu olabilir, fakat öğrenci başladığı zamankinden ya da altı dakikalık bir tempoda bir veya iki dakika ya da rahat bir koşuda 5 mil koşan öğrenciden daha fit ya da hızlı olamayacaktır.
Çoğu öğrenci metaforun doğruluğunu kabul etmiş görünüyordu. Öğrencilerimin [sadece benim faydama olsa bile] yakalanma korkusu, üretilen yazının kalitesiyle ilgili endişeler ve yıllardır yazma pratiği yapmamış olmanın bir noktada kendilerini yakalayabileceği hissi gibi çeşitli nedenlerle yazma ödevlerini tamamlamak için yapay zekâ kullanmaktan kaçındıklarını söylemeleri beni çok şaşırttı. Ancak bir öğrenci aynı fikirde olmadığını açıkça ifade etti: Yazma ödevinin amacının sadece not almak olduğunu savunuyordu. Çok fazla yazı yazmayı gerektiren bir alanda çalışmayı planlamıyordu ve eğer çalışacaksa ChatGPT’yi bunun için de kullanamaz mıydı?
Yazmanın nihai amacı fikrini tartışmaya açtığı için bir bakım rahatlamıştım ve bir yazma dersinin amacının yazmış görünmek değil, — bir diploma ve nihayetinde bir iş peşinde koşarken dersin kredisini almak için değil, söz konusu diplomanın işaret etmesi gereken ve söz konusu işin gerektirmesi muhtemel becerileri uygulamak için — yazmak olduğunu savunmaya hevesliydim.
Kibar davrandı ama ikna olmamıştı. Nereden geldiğini anlama konusunda ne kadar yetenekli olursam olayım [örneğin kendimi Calculus 131’de düşündüğümde] sözlerinin uyandırdığı panik duygusunu bastıramadım. Yazı yazmak logaritmik fonksiyonları öğrenmekten farklı değil mi? En azından dil, ifade ve bağlantı ile bu kadar derinden ilişkili olduğu için? Hatta çevremizdeki insanlara ve dünyaya gösterdiğimiz özenle de? Sadece yazmanın, hayatını kelimelerle çalışarak kazanan biri için başlı başına bir özen işi — fark etme, kaydetme ve tanıklık etme — olduğu için değil, aynı zamanda kolektif olarak insan dili ile makine dili arasındaki ayrımın önemsiz olduğuna, dilin otomatikleştirilebileceğinde hemfikirsek çok daha geniş bir şekilde tanımlanan özenden yoksun distopik bir geleceğe doğru koşar adım gitmiş olmaz mıyız?
Otomasyona diz çökerek karşı çıkmanın sadece savunmacı değil, aynı zamanda basit ve neredeyse her şekilde ikiyüzlülük olduğunun farkındayım. İşlerin eski yöntemlerle yapılmasının daha üstün olduğuna dayanan argümanlardan genellikle hoşlanmıyorum, zira bu argümanlar çoğu zaman [kasıtlı ya da değil] kadınların aile ve toplumdaki rollerine ilişkin gerici tutumlarla dolu. Yine de otomasyon yüzünden kaybettiğim onca şeyi düşünmeden edemiyorum. Şu anda ön siparişe sunulan Glüxkind Ella gibi otomatik bebek arabaları, hareketlilik yardımına ihtiyaç duyan bakıcılar için şüphesiz daha erişilebilir bir seçenek sunuyor. Tüm otomasyonların insan ilişkilerinin anlamını ortadan kaldırdığını, pil yerine kas gücüyle çalışan bir bebek arabasının bir şekilde daha anlamlı, daha gerçek bir ebeveynlik olduğunu söylemek abartılı olur. Yine de kızım bebekken, aile odamızda bulundurduğumuz pille çalışan bebek salıncağını çok severdi ve mantıksız olduğunu bilmeme rağmen bazen onunla onu rahatlatmanın ne kadar kolay olduğu konusunda belirsiz bir suçluluk duygusu hissederdim. Gerçek anne sevgisi, sırtım ağrıyana ve kaslarım yorgunluktan yanana kadar onu kollarımda sallamak olmamalı mıydı?
Yine de ev işlerini otomatikleştiren aletlerin geliştirilmesi ile feminizmin ilk dalgası arasında kurulan bağ uzun zamandır var ve hayatım boyunca gerçekleşen diğer teknolojik gelişmeler, sevdiğim veya anlam kattığım faaliyetlerle uğraşma şeklimi değiştirmiş olsalar bile benzer sancılar hissetmedim. Yıllar önce bir mikser aldım ve artık tereyağı ve şekeri elle krema haline getirmiyorum. Sadece bu makaleyi düşünürken aklıma bir şey geldi, peki kaybolan ne? Sevgi mi? Kol kasları mı? Zahmetin kendisindeki erdem, onu kurabiye pişirmek için kullanırken kaybolabilir. Bir zamanlar vasat da olsa hevesli bir fotoğrafçıydım, lisede karanlık odada saatlerimi fotoğraflarımda kötü yaptığım alan derinliğini, odağı, pozlamayı ya da çerçevelemeyi düzeltmeye çalışarak geçirirdim. Şimdi neredeyse herkes gibi ben de iPhone’umu kullanıyorum. Bazı durumlarda portre modunda. Evet, tüm bunlar çok daha verimli, ancak aynı zamanda yemek pişirmeyi veya fotoğraf çekmeyi anlamlı bir şey gibi hissettirmiyor.
Tüm çalışma ya da zahmet örneklerini doğası gereği erdemli gören bir 17. yüzyıl Kalvinisti gibi görünme riskini göze alarak; bir şey — ilgi? samimiyet? bağ? — tüm bu otomasyon içinde kaybolma tehlikesiyle yüz yüze. Büyükannemin ellerinin, bana ördüğü kazaklardaki düzgün dikiş sıralarına gösterdiği özeni görebiliyorum, çünkü ürünün yapımı zaman alıyordu. Eskiden fotoğraf çekmek ve banyo etmek daha uzun sürdüğü, görüntünün kaybolmayacağı daha az kesin olduğu için mi lise arkadaşlarımın filmle çektiğim portreleri daha kişisel hissettiriyor? Bir bebeği Viktorya döneminden kalma hantal bir bebek arabasıyla gezdirmek daha fazla emek gerektiriyorsa bu gezintiye daha fazla anlam — daha fazla sevgi — yüklemiyor mu?
Yine de nasıl örgü örüleceğini hatırlamıyorum ve sıfırdan kurabiye yapmayı bilmeme rağmen ailemin yediği yiyeceklerin büyük çoğunluğunu Trader Joe’dan alıyorum, böylece yoğun bir hafta içi gününün sonunda “ilginç” tatları yorucu bir şekilde birleştirebiliyorum. Bazen kötü bir aşçı olduğumla ilgili şakalar yapsam da aceleye getirilmiş — otomatize — yemek hazırlama sürecimden dolayı hakikaten üzüntü veya suçluluk hissetmiyorum ve çocuklarımın kazaklarını örmediğim için üzülmem felsefi değil duygusal bir bakış açısıyla oluyor. Keşke büyükannemin bana öğrettiği beceriyi hatırlayabilseydim çünkü onu çok seviyordum, çocuklarımın kazakları Gap Kids’ten olduğu için daha aşağı ya da az ilgili bilr kadın olduğumu düşündüğümden değil.
Yazmak benim için özen işi, çünkü ben bir yazarım ve öğrencilerin yazdıklarına yanıt vermek de benim için özen işi, çünkü ben bir öğretmenim. Yazmanın yiyecek ya da giyecekten daha az faydalı bir şey olmadığını savunanlar haklı mı? Bu, üzerinde düşünülmesi gereken rahatsız edici bir soru. Bu elbette şahsi açıdan — ama aynı zamanda liberal sanatlar eğitiminin rolü hakkında rahatsız edici bir düşünce çizgisine hızla yol açtığı için — doğru. Üniversite eğitiminin temelinde diploma alma ve bağlantılar kurma fırsatlarından ziyade öğrenmenin yattığı inancından vazgeçmek aşırı alaycı bir yaklaşım gibi geliyor ve belki de bu nedenle öğrencilerimin, yazmanın bir gün hayatlarında ne kadar küçük bir rol oynayacağına bakmaksızın, daha açık ve düşünerek yazmayı öğrenmenin zamanlarını değerlendirmek için kıymetli olduğu fikrine katılmalarını beklemenin makul olduğunu düşünüyorum.
Öğrencilerime sürücüsüz bebek arabalarından söz etmedim — ne olsa çoğunun ebeveyn olmayı düşünmesine bile on yıl var ve bebek arabalarının zihinlerinde benimkiler kadar büyük yer tutması pek olası değil — ama sürücüsüz araçlardan ve ölümle sonuçlanan araç kazası duyduğumda verdiğim kuşkusuz mantıksız olan tepkiden söz ettim. Sürücüsüz bir araçta kaza yapma olasılığının çok daha düşük olduğunu gösteren tüm istatistiklere aşina olsam da kendimin veya yolcularımın güvenliğinin kontrolünü [iyi bir sürücü olduğuma inanıyorum] teslim etmeyi hayal edemiyorum.
Bir öğrenci, “Peki ya araç kullanışınız konusunda yanıldığınıza ikna olabilseydiniz? Ya sürücüsüz modda araç kullanmanın herkes için daha güvenli olduğuna sizi ikna eden rakamları kendi gözünüzle görseydiniz?” diye sordu.
Haklı olduğunu elbette biliyordum ama yine de bunu aracımın kontrolünü aracın kendisine bırakmaktan hoşlanmamamla bağdaştıramıyordum. Yine de biri beni küçük bir uçağın kokpitine götürse ve otomatik pilotu açmamı ya da uçağı kendim uçurmaya çalışmamı teklif etse uçağın otomasyonuna güvenmekte tereddüt etmem, çünkü bir uçağı nasıl uçuracağımı bilmediğimi ve bir hata yapmanın neredeyse kesinlikle ölümcül olacağını çok iyi anlıyorum. Dik bir yokuşu çıkarken ya da uzun bir süre boyunca bebek arabasını itmek benim için hiç de zor değil. Dışarıda olmayı severim ve tek başıma ya da çocuklarımla yürüyüşe çıkmaktan keyif alırım. Belki de Glüxkind’in otomatik bebek arabasının gelişmiş güvenlik özelliklerinden bahsetmesi, benim bebek arabası itme uzmanlığıma dair kendini beğenmiş algımı tahmin ettiği içindir. “Ella” olarak adlandırılan bebek arabası, trafik algılama ve “geliştirilmiş çoklu fren sistemi” içeriyor. Pazarlama metni, hepimizin Potemkin Zırhlısı ya da Rosemary’nin Bebeği filmlerinden bildiği o korku kinayesine gönderme yaparcasına ebeveynlere “daha fazla huzur” vaat ediyor: “Kaçan bebek arabası mı? Ella varken olmaz”.
Fakat frenleri kullanma ve kaçma vakalarını önleme becerim de dahil bebek arabası sürme becerime olan güven, bazı öğrencilerimin yazma konusunda hissettikleri gibi değil. Araba sürmenin ya da bebek arabası itmenin aksine yazmak hem zorluğu hem de çoğu zaman belirsiz başarı ölçütleri nedeniyle göz korkutucu bir iş olabilir. Öğrencilerimin notlar hakkında en rekabetçi akranlarımdan ve benden bile çok farklı düşündüklerinden bahsetmiyorum bile. Notlar birçoğuna belirli bir konudaki performansı ya da hatta belirli bir beceriyi ölçmek için değil, karakterlerinin toptan onaylanması ya da öğütlenmek gibi geliyor. Öğrencilerim, benim — haklı olarak veya değil — kendimi “iyi bir sürücü” olarak gördüğüm gibi kendilerini de “iyi yazarlar” olarak görme eğiliminde değiller. Yazma ödevlerinde başarı ya da başarısızlığın getireceği riskler, öğrencilerimin çoğuna uçak kullanmaktan çok daha yakın geliyor. Yazmak, özen gösterecek bir şey değil ve yazıları hakkında geri bildirim almak, üzerinde durmadan sancı çektiğim bir şey olsa da muhtemelen özen göstermenin sebebi gibi hissettirmiyor.
Öğrencilerimle konuşmamın sonlarına doğru, Twitter’da tavsiye mektubu yazmak için yapay zekâ kullanımı üzerine bazı tartışmalar gördüğümden söz ettim. Öğrencilerimin tamamı, bir profesörün bunu yaptığını öğrendiklerinde kendilerini ihanete uğramış hissedeceklerini söylediler ve ben de bunun etik bir ihlal olduğu konusunda hemfikirdim. Ben nispeten hızlı yazan biriyim, öğrenciler benden mektuplarını yazmamı istediklerinde gurur duyuyorum ve bunu yapmaktan çekinmiyorum. Yine de not vermekten kesinlikle hazzetmiyor değilim. Öğrencilerle fikirleri, yazıları veya çalıştığımız metinleri anlamaları hakkında konuşmaktan hoşnutum ama not vermenin kendisi bir amaca ulaşmanın aracı gibi geliyor. Çoğu zaman bir öğrencinin nottan dolayı üzüleceğini ve çalışmasıyla ilgili konuşmalarımızın fikirleri, yazıları veya üzerinde çalıştığımız metinleri anlamasından ziyade Blackboard’daki kutuya yazdığım sayıya odaklanacağını biliyorum. Öğrencilerin çalışmalarına not vermek için ChatGPT’yi kullanmak ister miydim? Tabii ki isterdim. Ancak yapay zekadan bir tavsiye mektubu oluşturmasını istemeye benzer şekilde, bu etik dışı geliyor, çünkü ben notu bir öğrencinin zaman içindeki becerilerinin kusurlu bir ölçüsü olarak görürken çoğu öğrenci notları benimle ve dersimizdeki materyalle olan ilişkilerine derinden bağlı bir şey olarak görüyor.
Bu bağlamda distopik ve faydacı arasındaki çizgi tek değil. Sürücüsüz bebek arabalarının ya da hatta ChatGPT’nin insanlığın sonuna işaret ettiğini düşünmüyorum ama hayatlarımızı oluşturan sıradan ve küçük günlük anları yalnızca bir amaca yönelik bir araç olarak görme konusunda artan bir istekliliğe işaret ettiklerini düşünüyorum. Annie Dillard’ın yazar adaylarına verdiği tavsiyeyi sık sık düşünüyorum: Günlerimizi nasıl geçirdiğimiz, sonuçta hayatımızı nasıl geçirdiğimizdir. Benim açımdan mesele, belirli ebeveynlik vazifelerinin, ders vermenin bir unsurunun veya yazılı bir iletişim türünün amacını düşünmeye dayanıyor. Crate & Barrel sohbet robotunun aldığım kırık saksının iadesini gerçekleştirmesinden memnunum, tıpkı ailemin kıyafetlerini temiz tutmak için çamaşır makinemi ve kurutucumu kullanmaktan memnun olduğum gibi. Belki de yıllar sonra ChatGPT’ye otomatik şanzımanın ya da yazım denetiminin icadına baktığım gibi bakacağım: Teknolojik gelişimin istikrarlı ilerleyişinde faydalı ama nihayetinde kademeli bir adım. Eğer ailemin çamaşırlarını çamaşır tahtasında yıkıyor ve sonra da kurumaları için asıyor olsaydım, bu makaleyi yazıyor olmazdım. Ama aynı zamanda bu tür işlerden — bakmak, öğretmek, yazmak — mücadele etmeden vazgeçmememiz gerektiği hissinden de kurtulamıyorum.
