Yükseköğretimde yapay zeka kullanımı için otorite ve sorumluluk tartışılıyor

Önemli noktalar: Yapay zekâyı yönetmek, açık bir farklılaştırılmış yetki mimarisi gerektirir. Yapay zekânın mimarları yavaşlamayı talep ettiğinde, eğitim sektörü sesini yükseltmelidir. Öğrenme için bir iskele olarak yapay zekâ: Erişimsizlikten muhakemeye geçiş. Yükseköğretimde yapay zekâ hakkında daha fazla haber için eCN'nin Yapay Zekâ Eğitim merkezini ziyaret edin. Eğer yönetişim kurumsal amacı korumalı ve liderlik kurumsal yönelimden sorumlu kalmaya devam etmeliyse, önemli bir sorunun yanıtlanması gerekir: Bu amacın sürdürüldüğü ve yönelimin belirlendiği kararları alma yetkisi kime aittir?

Yapay zekâ odaklı bir dünyada, herkes öğrencilerin hazırlığını sağlamaya odaklanmış olsa bile bir üniversite öğrencilerini hazırlamakta başarısız olabilir. Liderlik, net beklentiler belirlemeden istişareleri sürdürebilir. Yönetim kurulları, hareketsizlik yoluyla bilmeden riski artırırken riski en aza indirmeye çalışabilir. Eyalet ve federal devlet kurumları korumalar veya kısıtlamalar ekleyebilir. Bilgi teknolojisi ofisleri, onaylanmış bir çevre birimi ortamı bulunmadığı için denemeleri engelleyebilir ve tedarik eylemleri, bir satıcının varsayımlarını başka kimsenin haberi olmadan kurumsal süreçlere entegre edebilir. Akademik programlar müfredatın yeniden gözden geçirilmesini erteleyebilir ve öğrencilerin aynı kurum içinde, hatta aynı bölümde bile fakülteden gelen belirgin şekilde farklı beklentilerle karşılaşmasına neden olabilir. Her bir eylem, onu gerçekleştiren aktörün alanı içinde savunulabilir olabilir, ancak birlikte, bu yön hiçbir zaman bir bütün olarak ele alınmadan veya yetkilendirilmeden kurumsal yönü belirleyebilirler.

Bu, yapay zekâ yönetişiminin en acil çözülmemiş meydan okumasıdır. Sorun sadece eylem sorumluluğunu dağıtmak değil, eylem üzerindeki yetkiyi veya yetkisizliği belirlemek, bu yetkinin nerede sona erdiğini tanımlamak ve kurumsal eylemi geciktirebilecek, kısıtlayabilecek veya önleyebilecek olanların kendi alanlarının ötesine uzanan sonuçlardan sorumlu kalmasını sağlamaktır. Bu sonuçlar öğrenciler, iş yerleri, kamu ve toplum tarafından taşındığı için, kurumsal yönelim bağlantısız kararlardan, çözülmemiş çatışmalardan ve biriken varsayılan durumlardan ortaya çıkmaya bırakılamaz. Bu nedenle yapay zekâyı yönetmek, açık bir farklılaştırılmış yetki mimarisi gerektirir.

Katılım yetki değildir Tarihsel olarak yükseköğretim, muhakemeyi geliştirmek, sonuçları daha iyi anlamak ve paylaşılan yönetişim yoluyla meşruiyeti güçlendirmek amacıyla katılımı genişleterek önemli sorunlara yanıt vermiştir. Ancak bu, bağlayıcı bir karar alma yetkisinin kime ait olduğunu belirlemez. Benzer şekilde, idari bir birim, hizmet etmesi gereken kurumsal amacı belirleme yetkisine sahip olmadan bir yapay zekâ sistemini uygulamaktan sorumlu olabilir. Kurumsal liderler, mezunların yapay zekâ odaklı bir iş yerine hazırlanmasını sağlamaktan sorumlu kalmaya devam edebilir, ancak bu hazırlığın her programda veya derste nasıl ifade edildiğini belirlemeyebilirler. Bununla birlikte temel soru, sadece kimin katıldığı değil, kimin karar verebileceği, kimin bir kararı önleyebileceği, kimin yeniden değerlendirebileceği ve nihayetinde sonuçları yapıldığı seviyenin ötesine geçtiğinde kimin hesap vereceğidir.

Eylem yetkisi ve eylemsizlik yetkisi Yetki, bir şey onaylandığında, benimsendiğinde, yetkilendirildiğinde veya kurulduğunda en görünür haldedir. Onay geciktiğinde, kaynaklar ulaşılamaz durumda kaldığında, yargı yetkisi çözülmemiş bırakıldığında veya sorumlu eylem için geçerli bir yol sağlanmadığında daha az görünür, ancak en az o kadar sonuç doğurucudur. Bu tür olumsuz yetki genellikle gizlilik, güvenlik, akademik dürüstlük, kurumsal yükümlülükler ve bireysel haklar gibi yönleri korumak için gereklidir. Ancak hiçbir koşulda bu tarafsızlık olarak görülemez. Çözülmemiş bir müfredat kararı, öğrencilerin hızla değişen bir iş yerinde başarılı olmak için ihtiyaç duydukları kritik hazırlıktan yoksun olarak mezun olmalarıyla sonuçlanabilir. Sonunda bir karar alınmadan devam eden istişareler statükoyu korumaz; çünkü teknoloji ilerlemeye devam eder, profesyonel beklentiler değişir ve kurum ile öğrenciler beklerken iş yeri ihtiyaçları daha da gelişir, bu da kurumsal bir tercihten ziyade varsayılan olarak bir yönelimin belirlenmesiyle sonuçlanır.

Gecikme veya eylemsizlik yoluyla elde edilen bir karar, onay veya aktif reddetme yoluyla ulaşılandan daha az sonuç doğurucu değildir. Bu nedenle, kurumsal eylemi kısıtlayabilen veya önleyebilenler, yalnızca kaçınmaya çalıştıkları “zararlardan” değil, aynı zamanda kararlarının dışlayabileceği ve dışladığı yeteneklerden, fırsatlardan ve hazırlıktan da sorumlu olmalıdır. Sorun, her reddin bozulup bozulmaması gerektiği değil, sonuçları uygulandığı alanın ötesine geçtiğinde eylemsizlik üzerindeki yetkinin görünür, izlenebilir ve hesap verebilir olup olmadığıdır.

Kamusal yükümlülükten kurumsal yönelime Yetki, muhakemenin yürütülebileceği bir düzeyde bulunmalıdır; ancak kurulmuş yargı yetkisinin, örgütsel konumun veya özel uzmanlığın varlığı tek başına yetkinin kullanımını meşrulaştırmak için yeterli değildir; çünkü yetki, kararın kapsamına uygun olmalı, acil alanın ötesindeki sonuçlara duyarlı olmalı ve kararın sonuçlarının ortaya çıkacağı koşulların anlaşılmasıyla desteklenmelidir.

Bu mimari, kurumsal duvarların ötesinde başlar. Eyalet ve federal hükümetler, üniversitelerin sivil haklar, gizlilik, erişilebilirlik, tüketici koruması, yasal süreç ve kamusal hesap verebilirlik gibi yönleri ele alan yapay zekâyı kullanabileceği yasal ve kamusal yükümlülükler kapsamında yasal korumalar oluşturur. Eyaletler ayrıca, eğitim başarısı ve iş gücü hazırlığı konusunda kamu kurumlarının geniş beklentilerini ve sorumluluklarını haklı olarak belirlemektedir. Bu düzenlemeler genellikle olumsuz yetkinin kullanımına da yol açar; çünkü bir tür zarardan kaçınmayı amaçlayan bir kısıtlama, kurumların bir başkasını ele alma yeteneği geliştirmesini engelleyebilir. Bu nedenle bu tür kamusal yetki, yalnızca yarattığı korumadan değil, aynı zamanda gereksiz yere ortadan kaldırdığı kurumsal ve kamusal olasılıklardan da sorumlu olmalıdır.

Benzer şekilde, yönetim kurullarının yetkisi, kamu ve emanet yükümlülüklerini kurumsal gözetime dönüştürmenin daha geniş sorumluluğu altında misyon, risk, kurumsal kapasite ve güvenceye kadar uzanır. Kurullar, kurumun karar haklarını, korumaları ve sonuca etki eden değişikliklere yanıt verme yeteneğini kurduğuna dair kanıt talep etmelidir, ancak sistem seçmemeli, ayrıntılı müfredat tasarlamamalı veya uygulamayı yönetmemelidir. Riskten kaçınma kendi başına sonuç doğuran bir karar haline gelebilir. Kampüs liderliği; öncelikleri belirleyerek, gerekli yetenekleri ve korumaları tanımlayarak ve kaynakları tahsis ederek kamusal yükümlülükleri ve kurul düzeyindeki beklentileri kurumsal yönelime dönüştürür. Yapay zekânın her akademik veya operasyonel kullanımını belirleyemezler ve kurumsal yönelimi veya kümülatif etkilerini görme sorumluluğunu hiçbiri bir bütün olarak kurumdan bağımsız olarak sorumlu olmayan bir komiteye, bilgi teknolojisi birimine veya akademik gövdeye devredemezler. Dolayısıyla istişare yönelimi bilgilendirebilir, ancak onun yerini alamaz.

Kurumsal yönelim, yalnızca operasyonel hale geldiğinde ve akademik etosun bir parçası haline geldiğinde anlam kazanır. Strateji ve bunun uzantısı olarak yönelim, onu mümkün kılacak kültür mevcut değilse anlamsızdır. Bu durum, kurumların büyük ve önemli kesimlerinin yapay zekâya şiddetle karşı çıktıği ve kullanım veya bağlamdan bağımsız olarak onu eğitimin yıkımı olarak konumlandırdığı yapay zekâ bağlamında kritik bir önem kazanır. Fakülte bağımsızlığı ve öğrenci tercihi, yönetişimin ve kurumların toplumsal ilgisinin en zor testlerini sunar; çünkü her ikisi de uygun kapsamlarının ötesine uzatıldığında tek taraflı birer veto biçimi haline gelebilir.

Dengeli bir yaklaşımda, operasyonel birimler yapay zekânın uygulanabileceği koşulları belirlerken, akademik birimler kurumsal beklentilerin müfredata, öğrenmeye ve kanıtlanmış yeteneğe nasıl dönüştürüleceğini belirler. Teknik ve operasyonel gereksinimler gerekli olsa da sistemlerin, verilerin, sözleşmelerin ve uygulamanın kontrolü kurumsal amaç üzerinde bir yetki haline gelemez ve birimler de bunun üzerindeki yetkiyi resmi olarak talep etmeden kurumsal yönelimi değiştiremez veya önleyemez. Bir derecenin temsil ettiği bilgi ve yetkinlik düzeyi, bağlantısız seçimlerin birikimine bırakılamaz. Kurum, mezunların akıllı sistemlerle eleştirel, sorumlu ve etkili bir şekilde çalışmak için belirli yeteneklere ihtiyaç duyduğuna karar verirse, bu beklentiler tutarlı program çıktıları haline gelmelidir. Öğrenmenin nasıl gerçekleştiği üzerindeki yetki, temel hazırlığın yapılıp yapılmadığı konusunda incelenemez bir veto haline gelemez.

Yetki, güncelliğe karşı sorumlu kalmalıdır Kurumsal başarısızlık, yetki uygun şekilde tahsis edilmiş olsa bile, dünyadan ve dış değişikliklerin iç yönelim ve işleyiş üzerindeki etkilerinden izole kaldığında meydana gelebilir. Bu durum, müzakere süreçlerinin ve müfredat değişikliklerinin tarihsel olarak yavaş ilerlediği, genellikle hafta veya aylardan ziyade yıllar sürdüğü yükseköğretimde özellikle etkilidir. Ek olarak, kararların alındığı an ile etkilenen öğrencilerin mezun olduğu an arasında bir boşluk vardır; çünkü bir üniversite öğrencileri yalnızca bir müfredat onaylandığında görünen koşullara değil, daha da önemlisi mezun olduklarında var olacak ve kariyerleri boyunca değişmeye devam edecek koşullara hazırlar.

Bir üniversite; eğitim için sosyoekonomik hareketliliğe güvenen öğrencilere, mezunlarını kabul edecek iş yerlerine ve mesleklere, kendisini destekleyen eyalet ve kamuya, ayrıca yetenek oluşturmak ve değişime yanıt vermek için yükseköğretime güvenen bir toplum için güncel kalmalıdır. Bunlar, kararlar alındıktan sonra danışılacak ikincil çıkarlar değil, kurumsal karar almanın meşru olarak göz ardı edemeyeceği ve kurumsal yetkinin kullanımının yargılanması gereken temel, misyon odaklı yükümlülüklerdir. Kurumların güncelliği tanımlayan önemli paydaşları vardır, ancak kurumsal uygulama üzerinde doğrudan yetkiye sahip değildirler. İşverenler ve profesyonel kuruluşlar, yapay zekânın işi nasıl değiştirdiğini, görevleri yeniden dağıttığını ve mezunların beklentilerini nasıl değiştirdiğini görünür kılabilir ve mezunlar, yetkinliklerin kariyerler ve sektörler arasında nasıl test edildiğini daha fazla iletebilir. Öğrencilerin kendileri, müfredatın amaçlanan etkileri ile iş yeri için gerçek hazırlık arasındaki farkları aydınlatabilir. Topluluklar, bölgenin ihtiyaçlarını görünür kılabilir ve bölgelerinin giderek daha fazla ihtiyaç duyduğu insani, sivil ve ekonomik yetenekleri belirleyebilir. Kanıtlar, dahili olarak geçerli bir kararın öğrenci hazırlığını, bölgesel yeteneği veya kurumsal güncelliği zayıflattığını gösterdiğinde, mimari yeniden yönlendirme talep etme yetkisine kimin sahip olduğunu belirlemelidir. Bu olmadan kurum, sonuçların güncelliğini kaybederken sürecin meşruiyetini koruyabilir.

Son meydan okuma Kurumsal bir kararın eksikliğinin hiçbir karar alınmadığı anlamına gelmediği, aksine kurumsal yönelimin varsayılanı, gecikmeyi veya vetoyu kontrol edene devredildiğini gösterdiği vurgulanmalıdır. Tanımsız bir yetki mimarisinin oluşturduğu daha kritik risk budur; yetkinin yanlış düzeyde bulunması değil, resmi yetkinin tanımsız kalırken sonuç doğuran gücün kısıtlamalar, uygulama kontrolleri, çözülmemiş kararlar ve biriken yerel seçimler yoluyla uygulanmasıdır.

Liderlik bu yetkiyi açık hale getirmeli; kimin hareket edebileceğini, kimin eylemi önleyebileceğini, yetkinin nerede sona erdiğini ve bir alanın ötesine uzanan sonuçların ne zaman yeniden değerlendirme gerektirdiğini belirlemelidir. Her şeyden önce, eylemsizlik üzerindeki yetkinin, neyin kaybedilebileceğine dair hesap verebilirlik taşımasını sağlamalıdır. Amaç ne kısıtlamasız benimseme ne de kurumsal tekdüzeliktir. Yapay zekânın nerede kullanılması gerektiği, nerede kısıtlanması gerektiği ve hangi insan yeteneğinin korunması veya güçlendirilmesi gerektiği konusunda zamanında, bilinçli ve hesap verebilir seçimler yapma kapasitesidir. Bu kapasiteyi oluşturan kurumlar, akıllı sistemlerin entegrasyonuna yalnızca tepki vermekle kalmayacak, aynı zamanda bu sistemlerin uygulamalarını, yükümlülüklerini ve hizmet ettiklerinin hazırlığını nasıl şekillendirmesi gerektiğini ve şekillendirmemesi gerektiğini bilinçli olarak belirleyebileceklerdir.

Dolayısıyla yükseköğretimin doruk noktasındaki yönetişim sorunu, yalnızca yapay zekânın nasıl kullanılacağı değil; kurumsal yanıtı şekillendirme yetkisinin kime ait olduğunu, bunu önleme gücünün kimde olduğunu ve bu kararların mümkün kıldığı veya erişilemeyecek bir yere koyduğu geleceğin hesabını kimin vereceğini belirlemektir. Bu nihayetinde akıllı sistemler çağındaki yönetişimin testidir. Yetkinin yerini bulamayan bir kurum, muhakemeyi tutarlı bir şekilde yürütemez. Yetkiyi hesap verebilirliğe bağlayamayan bir kurum, seçimlerinin sonuçlarını yönetemez. Nihayetinde, geleceğinin birikmiş varsayılanlar veya vetolar yoluyla belirlenmesine izin veren bir kurum, ötesinde ortaya çıkan gelecekle kasıtlı olarak güncel kalamaz.

Vistasp M. Karbhari, 2013-2020 yılları arasında Başkan olarak görev yaptığı Arlington'daki Teksas Üniversitesi'nin İnşaat Mühendisliği ile Makine ve Havacılık Uzay Mühendisliği Bölümlerinde Profesördür.

Mevcut yükseköğretim manzarasında, azalan kayıtlar hâlâ mevcut bir zorluktur. Genel kayıt sayıları toparlanma belirtileri gösterirken, Ulusal Öğrenci Takas Evi Araştırma Merkezi verileri, lisans kayıtlarının pandemi öncesi seviyelere henüz tam olarak geri dönmediğini göstermektedir.