Governans Kecerdasan Artifisial Generatif (KAG)
Gambar 7.1 Governans KAG
Pemanfaatan Kecerdasan Artifisial Generatif (KAG) di lingkungan perguruan tinggi harus berada dalam kerangka governans yang jelas, akuntabel, adaptif, transparan, dan berorientasi pada kemaslahatan. Governans ini bertujuan untuk memastikan bahwa penggunaan KAG mendukung pelaksanaan tridharma perguruan tinggi, memperkuat tata kelola institusi, menjaga integritas akademik, serta selaras dengan prinsip Good University Governance yang mencakup transparansi, akuntabilitas, tanggung jawab, keadilan, dan independensi, serta sesuai dengan peraturan perundang-undangan yang berlaku.
Governans KAG mencakup dimensi strategis dan operasional yang terintegrasi dalam sistem pengelolaan perguruan tinggi, sebagaimana diuraikan berikut:
7.1 Arah Strategis dan Keselarasan Institusi
Perguruan tinggi menetapkan arah strategis pemanfaatan KAG yang selaras dengan visi, misi, nilai, dan prioritas pengembangan institusi. Pemanfaatan KAG harus memberikan nilai tambah bagi mutu pendidikan, penelitian, pengabdian kepada masyarakat, serta efektivitas tata kelola, sekaligus mendukung transformasi pendidikan tinggi yang adaptif terhadap perkembangan teknologi digital.
Dalam kerangka ini, perguruan tinggi juga didorong untuk tidak hanya menjadi pengguna, tetapi pengembang teknologi KAG, termasuk melalui riset, inovasi, dan pengelolaan data yang strategis untuk mendukung kemandirian dan daya saing nasional.
7.2 Kebijakan, Standar, dan Kepatuhan
Perguruan tinggi menetapkan kebijakan, standar, prosedur, dan pedoman pemanfaatan KAG yang berlaku lintas unit dan lintas fungsi. Kebijakan ini harus memastikan keselarasan dengan peraturan perundang-undangan, standar nasional dan internasional, serta prinsip dan etika kecerdasan artifisial. Implementasinya perlu konsisten, terukur, dan disesuaikan dengan tingkat risiko serta karakteristik institusi sebagai organisasi akademik. Kebijakan ini juga perlu memberikan ruang fleksibilitas agar dapat diadopsi secara bertahap oleh perguruan tinggi dengan tingkat kesiapan yang berbeda, tanpa mengurangi prinsip kehati-hatian dan akuntabilitas.
Sebagai tindak lanjut framework ini, perguruan tinggi perlu menerjemahkan prinsip tata kelola KAG ke dalam kebijakan internal yang memiliki kedudukan, ruang lingkup, dan mekanisme pelaksanaan yang jelas. Kebijakan institusi dapat dituangkan dalam bentuk Peraturan Rektor atau peraturan pimpinan perguruan tinggi yang setara, disertai prosedur operasional standar dan panduan teknis sesuai kebutuhan.
Kebijakan internal sekurang-kurangnya mengatur:
Ruang lingkup penggunaan KAG dalam pembelajaran, penelitian, pengabdian kepada masyarakat, dan tata kelola institusi.
Klasifikasi risiko, kewenangan persetujuan, dan persyaratan pengendalian.
Hak, kewajiban, dan tanggung jawab pengguna.
Perlindungan data, keamanan informasi, serta penggunaan layanan pihak ketiga.
Transparansi, deklarasi penggunaan KAG, dan integritas akademik.
Tata cara pelaporan, pemeriksaan, penyelesaian pelanggaran, dan pengajuan keberatan.
Evaluasi berkala dan mekanisme penyesuaian kebijakan.
Penegakan kebijakan harus mengutamakan keadilan, proporsionalitas, pembinaan, dan kepastian prosedur. Dugaan pelanggaran harus diperiksa berdasarkan bukti yang dapat diverifikasi, dengan memberikan kesempatan klarifikasi dan pembelaan kepada pihak terkait. Sanksi diberikan berdasarkan tingkat keseriusan pelanggaran, adanya unsur kesengajaan, dampak yang ditimbulkan, dan riwayat pelanggaran, sesuai peraturan internal serta ketentuan hukum yang berlaku. Indikasi penggunaan KAG atau hasil deteksi oleh perangkat pendeteksi konten AI tidak dapat dijadikan satu-satunya dasar penetapan pelanggaran akademik.
7.3 Akuntabilitas, Pembagian Peran, dan Kepemimpinan Akademik
Perguruan tinggi menetapkan pembagian peran, tanggung jawab, kewenangan, dan alur koordinasi yang jelas dalam pemanfaatan KAG, baik pada tingkat pimpinan, unit akademik, unit penjaminan mutu, unit teknologi informasi, unit hukum dan etik, maupun pengguna. Pada saat yang sama, pemanfaatan KAG harus tetap mendorong berkembangnya kepemimpinan akademik pada setiap lini organisasi, bukan justru melemahkannya.
Perguruan tinggi perlu menetapkan struktur tata kelola KAG yang jelas dan lintas fungsi untuk memastikan bahwa pemanfaatan teknologi ini berlangsung sesuai arah strategis, ketentuan hukum, prinsip etika, integritas akademik, dan kebutuhan pengembangan institusi. Untuk mendukung pelaksanaan kebijakan secara terpadu, perguruan tinggi direkomendasikan membentuk Komite Tata Kelola AI atau satuan tugas dengan fungsi yang setara, yang bertanggung jawab kepada Rektor atau pimpinan perguruan tinggi. Komite ini dapat melibatkan unsur pimpinan institusi, unit akademik, pengelola teknologi informasi, penjaminan mutu, lembaga penelitian dan pengabdian kepada masyarakat, fungsi hukum dan etik, serta perwakilan mahasiswa. Pelibatan mahasiswa dimaksudkan agar kebijakan mempertimbangkan pengalaman pengguna, keadilan akses, kebutuhan pembelajaran, dan dampak terhadap hak mahasiswa.
Komite memiliki fungsi sekurang-kurangnya mencakup:
Memberikan rekomendasi kebijakan dan prioritas pemanfaatan KAG.
Mengkoordinasikan inventarisasi serta klasifikasi risiko penggunaan KAG.
Melakukan penelaahan atas penggunaan KAG yang memiliki risiko tinggi atau dampak lintas unit.
Memberikan rekomendasi mitigasi terhadap risiko etika, akademik, keamanan, dan perlindungan data.
Memantau hasil evaluasi, audit, keluhan, serta penanganan insiden.
Mengusulkan program literasi, pelatihan, dan penguatan kapasitas pengguna.
Menyampaikan laporan dan rekomendasi perbaikan secara berkala kepada pimpinan perguruan tinggi.
Komite berfungsi sebagai organ koordinasi dan pemberi rekomendasi, tanpa menggantikan kewenangan formal pimpinan, senat akademik, komite etik penelitian, unit penjaminan mutu, pengelola keamanan informasi, atau organ lain sesuai tata organisasi masing-masing perguruan tinggi. Bagi perguruan tinggi dengan keterbatasan sumber daya, fungsi komite dapat dilaksanakan oleh tim lintas unit yang memanfaatkan struktur organisasi yang telah tersedia.
Pembagian tanggung jawab dalam pelaksanaan tata kelola KAG dapat dirumuskan menggunakan matriks RACI (Responsible, Accountable, Consulted, Informed), sehingga setiap kegiatan memiliki pelaksana, pihak yang bertanggung jawab akhir, pihak yang perlu dikonsultasikan, dan pihak yang perlu menerima informasi.
7.4 Penguatan Kapasitas dan Transformasi Digital
Perguruan tinggi bertanggung jawab dalam membangun kapasitas institusi untuk pemanfaatan KAG, termasuk pengembangan talenta, peningkatan literasi KA, penyediaan infrastruktur, serta kesiapan organisasi dalam menjalankan transformasi digital secara berkelanjutan.
Pendekatan ini perlu dirancang secara inklusif, adaptif, dan bertahap, sehingga dapat diimplementasikan oleh perguruan tinggi dengan berbagai tingkat kesiapan, termasuk yang masih memiliki keterbatasan sumber daya, baik dari sisi SDM, infrastruktur, maupun pendanaan.Pengembangan Talenta dan Peningkatan Literasi KA
Perguruan tinggi perlu mengembangkan talenta dan meningkatkan literasi KAG secara berjenjang sesuai peran, kebutuhan, dan tingkat kompetensi sivitas akademika serta tenaga kependidikan. Pengembangan kapasitas tersebut tidak hanya berorientasi pada keterampilan teknis penggunaan KAG, tetapi juga pada penguatan kemampuan kognitif, metakognitif, serta pemahaman etika dan tanggung jawab dalam pemanfaatannya.
Peningkatan literasi KAG perlu mencakup kemampuan memahami prinsip kerja, potensi, dan keterbatasan teknologi, termasuk risiko halusinasi, bias, dan ketidakakuratan keluaran. Selain itu, perguruan tinggi perlu mendorong pengembangan keterampilan berpikir kritis, penalaran, evaluasi argumentasi dan bukti, serta kemampuan membedakan fakta, opini, inferensi, dan informasi yang tidak memiliki dasar yang dapat diverifikasi. Pemanfaatan KAG perlu diarahkan untuk memperkuat kemampuan pengguna dalam memahami konsep, membangun pengetahuan, menyelesaikan masalah, dan menghasilkan gagasan secara kreatif dan inovatif, bukan sekadar menerima atau menggunakan keluaran yang dihasilkan oleh sistem.
Pengembangan kompetensi metakognitif juga perlu menjadi bagian dari peningkatan literasi KAG, agar pengguna mampu merencanakan, memantau, dan mengevaluasi proses belajarnya maupun pekerjaannya dengan bantuan KAG. Kompetensi ini mencakup kemampuan menentukan kapan KAG perlu digunakan, bagaimana mengintegrasikannya dengan proses berpikir dan penilaian manusia, kapan hasilnya perlu diverifikasi, serta kapan penggunaannya perlu dibatasi atau dihindari. Dengan demikian, KAG berperan sebagai sarana pendukung pengembangan kapasitas intelektual manusia, bukan sebagai pengganti proses berpikir dan tanggung jawab pengguna.
Pengembangan talenta dilaksanakan secara berjenjang, mulai dari literasi dasar bagi seluruh sivitas akademika dan tenaga kependidikan, kompetensi pemanfaatan produktif untuk mendukung pembelajaran, penelitian, pengabdian kepada masyarakat, dan tata kelola institusi, hingga kompetensi lanjutan bagi tenaga ahli yang mengembangkan, mengintegrasikan, dan mengelola teknologi KAG. Program pengembangan kapasitas dapat dilaksanakan melalui integrasi kompetensi KA ke dalam kurikulum, pelatihan dan pembelajaran berkelanjutan, pengembangan profesional, serta kolaborasi dengan industri dan lembaga penelitian.
Perguruan tinggi perlu melakukan evaluasi terhadap efektivitas pengembangan kompetensi, tidak hanya berdasarkan kemampuan mengoperasikan perangkat KAG, tetapi juga kemampuan memahami dan mengevaluasi informasi, bernalar secara mandiri, memecahkan masalah, menghasilkan karya yang bermakna, dan mempertanggungjawabkan hasil pemanfaatan KAG secara etis dan akademik.
Penguatan Infrastruktur dan Ekosistem Digital
Selain pengembangan kapasitas manusia, transformasi digital memerlukan dukungan infrastruktur dan sistem yang andal, aman, interoperable, dan berkelanjutan. Perguruan tinggi perlu memastikan bahwa penyediaan dan pengelolaan teknologi KAG selaras dengan kebutuhan pengguna, karakteristik kegiatan Tridharma, kapasitas institusi, serta tingkat risiko penggunaan. Penguatan infrastruktur tersebut mencakup arsitektur integrasi sistem, pemilihan model penempatan layanan, pengelolaan data dan keamanan, serta efisiensi biaya dan penggunaan sumber daya.
Arsitektur dan Integrasi Sistem KAG
Perguruan tinggi perlu mengembangkan arsitektur pemanfaatan KAG yang menjamin keamanan, interoperabilitas, efisiensi, keterlacakan, dan keberlanjutan layanan. Integrasi KAG dengan sistem informasi institusi, seperti Learning Management System (LMS), Sistem Informasi Akademik (SIAKAD), repositori penelitian, dan sistem administrasi, perlu dilaksanakan melalui mekanisme akses dan pengendalian yang terstandar.
Untuk penggunaan KAG berskala institusional, perguruan tinggi direkomendasikan menerapkan arsitektur integrasi terpusat atau terkoordinasi melalui API Gateway atau mekanisme lain yang memiliki fungsi pengendalian setara. Arsitektur tersebut sekurang-kurangnya mendukung:
Autentikasi dan otorisasi pengguna berdasarkan peran.
Pengendalian akses terhadap data dan fungsi sistem.
Pemilihan model atau penyedia layanan berdasarkan kebutuhan dan tingkat risiko.
Pembatasan kuota, laju permintaan, dan anggaran penggunaan.
Pencatatan aktivitas untuk kebutuhan keamanan, evaluasi, dan audit dengan tetap memperhatikan perlindungan data pribadi.
Pengendalian pengiriman data ke layanan eksternal.
Pemantauan keandalan, penggunaan sumber daya, dan biaya.
Penghentian akses atau pengalihan layanan apabila terjadi gangguan atau insiden.
Perguruan tinggi perlu menerapkan prinsip pemberian hak akses minimum, pembatasan penggunaan data, pengamanan kredensial, serta pemisahan lingkungan pengembangan, pengujian, dan produksi. Adapun integrasi dengan sistem akademik atau administratif yang dapat memiliki risiko tinggi seperti mengubah data resmi, nilai, status mahasiswa, atau keputusan institusional; harus dilengkapi pembatasan wewenang dan prosedur persetujuan manusia yang sesuai.
Pilihan Penempatan Infrastruktur
Perguruan tinggi dapat memilih penempatan sistem KAG pada infrastruktur internal (on-premise), layanan cloud, atau kombinasi keduanya (hybrid), dengan mempertimbangkan sensitivitas data, kapasitas teknis, kebutuhan layanan, biaya, dan persyaratan hukum. Pemilihan arsitektur harus didasarkan pada evaluasi kebutuhan yang terdokumentasi, bukan semata-mata pada kemudahan implementasi atau biaya awal.
Pengendalian Biaya dan Efisiensi Sumber Daya (FinOps for AI)
Perguruan tinggi perlu menerapkan pengelolaan biaya pemanfaatan KAG secara terukur untuk memastikan bahwa manfaat yang diperoleh sebanding dengan penggunaan sumber daya. Pengelolaan biaya dapat mencakup:
Penetapan alokasi anggaran dan kuota penggunaan KAG per unit, fakultas, program studi, atau kelompok pengguna.
Pembatasan jumlah permintaan dan konsumsi token sesuai kebutuhan.
Pemantauan biaya penggunaan berdasarkan model, layanan, dan kategori kegiatan.
Penyediaan informasi biaya yang transparan kepada unit pengguna.
Evaluasi berkala atas efisiensi penggunaan model dan infrastruktur.
Penerapan mekanisme peringatan dini ketika pemakaian mendekati anggaran yang telah ditetapkan.
Penggunaan model yang lebih ringan atau hemat sumber daya apabila dapat memenuhi kebutuhan dengan kualitas yang memadai.
Prinsip efisiensi juga mencakup pertimbangan penggunaan energi dan dampak lingkungan (Green AI). Perguruan tinggi didorong memantau konsumsi sumber daya komputasi, mengoptimalkan pemanfaatan infrastruktur, serta mempertimbangkan efisiensi energi dalam pengadaan dan operasional sistem KAG.
7.5 Integrasi dengan Tata Kelola dan Penjaminan Mutu Perguruan Tinggi
Tata kelola KAG harus diintegrasikan ke dalam Sistem Penjaminan Mutu Internal (SPMI) sebagai bagian dari upaya peningkatan mutu akademik dan nonakademik yang berkelanjutan. Perguruan tinggi perlu memastikan bahwa pemanfaatan KAG tidak berjalan sebagai inisiatif teknologi yang terpisah dari perencanaan, pelaksanaan, evaluasi, pengendalian, dan peningkatan mutu institusi. Integrasi tata kelola KAG ke dalam SPMI dapat dilakukan melalui:
Penetapan standar, berupa kebijakan pemanfaatan KAG, persyaratan kompetensi pengguna, mekanisme pengendalian risiko, serta prinsip integritas akademik.
Pelaksanaan standar, melalui penerapan kebijakan dalam pembelajaran, penelitian, pengabdian kepada masyarakat, dan pengelolaan institusi.
Evaluasi pemenuhan standar, melalui audit internal, pengukuran indikator, survei pengguna, dan evaluasi dampak pemanfaatan KAG.
Pengendalian, melalui tindak lanjut atas ketidaksesuaian, insiden, dan hasil evaluasi.
Peningkatan standar, melalui pembaruan kebijakan, prosedur, kompetensi, dan teknologi berdasarkan hasil evaluasi.
Perguruan tinggi dapat mengembangkan indikator pemanfaatan KAG yang relevan dengan mutu pembelajaran, integritas akademik, produktivitas penelitian, kualitas layanan, keamanan informasi, keadilan akses, dan efisiensi sumber daya. Bukti pelaksanaan tata kelola KAG dapat digunakan sebagai pendukung evaluasi diri, audit mutu internal, dan proses akreditasi sesuai instrumen yang berlaku pada BAN-PT atau Lembaga Akreditasi Mandiri (LAM).
7.6 Pengendalian dalam Tridharma dan Kurikulum
Perguruan tinggi memastikan bahwa pemanfaatan KAG dalam pendidikan, penelitian, pengabdian kepada masyarakat, dan pengelolaan institusi tetap berada dalam koridor etika, integritas akademik, otonomi keilmuan, serta pengawasan manusia yang memadai. Pemanfaatan KAG tidak boleh mendorong standarisasi proses yang mekanistik dan berlebihan, sehingga mengurangi kreativitas, kemandirian, dan tanggung jawab profesional sivitas akademika. Dalam konteks pendidikan, perguruan tinggi juga bertanggung jawab merancang kurikulum yang adaptif terhadap perkembangan KA, termasuk pengaturan penggunaan KAG oleh mahasiswa serta metode asesmen yang tetap menjamin validitas penilaian dan ketercapaian capaian pembelajaran. Perguruan tinggi dapat memasukkan literasi KA ke dalam capaian pembelajaran lulusan (CPL) program studi, dengan bentuk integrasi yang dipilih sesuai kondisi masing-masing, baik melalui mata kuliah khusus maupun modul di dalam mata kuliah yang sudah ada.
7.7 Manajemen Risiko, Keamanan, dan Penanganan Insiden
Perguruan tinggi melakukan penilaian risiko terhadap setiap pemanfaatan KAG, termasuk kajian atas use case, teknologi, dan layanan yang digunakan. Selain itu, harus dipastikan terpenuhinya prinsip kerahasiaan, keamanan, dan keselamatan sistem melalui pengendalian teknis dan pemeriksaan berkala.
Perguruan tinggi juga wajib memiliki mekanisme penanganan insiden yang jelas dan responsif terhadap gangguan, kegagalan sistem, maupun pelanggaran keamanan.
7.8 Transparansi, Dokumentasi, dan Monitoring
Perguruan tinggi melakukan dokumentasi dan inventarisasi seluruh sistem dan aplikasi KAG yang digunakan, disertai keterbukaan informasi mengenai tujuan, manfaat, risiko, serta keterbatasannya. Dokumentasi ini menjadi dasar untuk monitoring dan evaluasi berkala guna memastikan kesesuaian dengan tujuan, tingkat risiko, dan kebutuhan perbaikan atau penghentian penggunaan.
Pemrosesan data pribadi dilakukan secara terbatas dan spesifik, sesuai dengan tujuannya, serta dimusnahkan dan/atau dihapus setelah masa retensi berakhir (UU No. 27 Tahun 2022, Pasal 16 ayat (2)). Prinsip ini juga berlaku bagi pencatatan log dan rekam jejak penggunaan KAG yang memuat data pribadi sivitas akademika. Perguruan tinggi menetapkan tujuan pencatatan, jenis data yang dicatat, masa retensi, dan pihak yang berwenang mengakses, serta menginformasikannya kepada sivitas akademika. Log tidak digunakan sebagai alat pengawasan berlebihan terhadap dosen, tenaga kependidikan, maupun mahasiswa.
7.9 Keadilan Akses dan Penguatan Budaya Akademik
Perguruan tinggi membangun budaya pemanfaatan KAG yang kritis, etis, bertanggung jawab, dan sadar risiko. Selain itu, perlu dijamin akses yang adil dan inklusif terhadap teknologi KAG bagi seluruh sivitas akademika, termasuk kelompok disabilitas dan pihak dengan keterbatasan akses.
7.10 Penguatan Ekosistem dan Kolaborasi Antar Perguruan Tinggi
Perguruan tinggi didorong membangun ekosistem kolaboratif dalam penerapan Kecerdasan Artifisial Generatif melalui kerja sama antar institusi guna memperkuat pemerataan kapasitas, efisiensi sumber daya, dan keadilan akses nasional. Beberapa contoh mekanisme kolaborasi adalah: konsorsium lisensi untuk pengadaan bersama akses platform/layanan KAG; platform berbagi sumber daya nasional antar perguruan tinggi untuk pemanfaatan bersama model, dataset, atau infrastruktur; program pendampingan antar perguruan tinggi.
7.11 Keterlibatan Pemangku Kepentingan dan Pengelolaan Pihak Ketiga
Pengadaan, pengembangan bersama, atau penggunaan layanan KAG dari pihak ketiga harus melalui evaluasi yang mempertimbangkan kebutuhan institusi, tingkat risiko, keamanan, privasi, reliabilitas, interoperabilitas, biaya, dan keberlanjutan layanan.
Perguruan tinggi perlu melakukan penilaian terhadap penyedia teknologi sebelum penggunaan secara institusional, terutama apabila layanan memproses data internal, data pribadi, data penelitian yang belum dipublikasikan, atau digunakan dalam proses pengambilan keputusan yang berdampak signifikan.
Evaluasi penyedia layanan sekurang-kurangnya mencakup:
Kesesuaian fungsi teknologi dengan kebutuhan dan tujuan institusi.
Kejelasan kepemilikan, penggunaan, penyimpanan, dan penghapusan data.
Pengaturan apakah data pengguna dapat dimanfaatkan untuk pelatihan atau peningkatan model.
Mekanisme keamanan, autentikasi, otorisasi, dan pencatatan aktivitas.
Transparansi keterbatasan, keandalan, dan risiko keluaran sistem.
Ketersediaan perjanjian tingkat layanan, dukungan operasional, dan penanganan insiden.
Kejelasan lokasi pemrosesan data serta ketentuan pemindahan data lintas wilayah hukum.
Total biaya penggunaan, struktur harga, serta risiko kenaikan biaya dan ketergantungan vendor.
Ketersediaan mekanisme portabilitas data dan penghentian layanan.
Kesesuaian dengan peraturan perundang-undangan serta kebijakan perguruan tinggi.
Hasil evaluasi didokumentasikan dan digunakan sebagai dasar persetujuan, pembaruan kontrak, pembatasan penggunaan, atau penghentian kerja sama.
Perguruan tinggi perlu memastikan bahwa kontrak dengan penyedia layanan memuat pembagian tanggung jawab yang jelas, termasuk tanggung jawab dalam perlindungan data, keamanan, penanganan insiden, dan pemulihan layanan.
7.12 Evaluasi Dampak dan Keberlanjutan
Evaluasi tata kelola KAG dilaksanakan secara berkala dan berbasis bukti untuk memastikan bahwa kebijakan, teknologi, serta praktik pemanfaatan KAG tetap relevan dan efektif.
Perguruan tinggi direkomendasikan melaksanakan evaluasi operasional sekurang-kurangnya setiap semester dan evaluasi strategis sekurang-kurangnya setiap tahun. Evaluasi semesteran dapat mencakup tingkat penggunaan KAG, kepatuhan terhadap kebijakan, efektivitas pengendalian risiko, insiden, keluhan pengguna, pelaksanaan pelatihan, serta penggunaan anggaran. Evaluasi tahunan mencakup dampak terhadap mutu pembelajaran, produktivitas dan integritas penelitian, kualitas pengabdian kepada masyarakat, efektivitas tata kelola institusi, pemerataan akses, efisiensi biaya dan energi, serta relevansi kebijakan terhadap perkembangan teknologi dan peraturan. Hasil evaluasi dituangkan dalam laporan yang memuat pencapaian, permasalahan, rekomendasi, penanggung jawab, dan rencana tindak lanjut.
Pembaruan kebijakan juga dapat dilakukan di luar siklus reguler apabila terjadi perubahan peraturan perundang-undangan, perkembangan teknologi yang signifikan, insiden serius, atau temuan evaluasi yang menunjukkan perlunya perubahan segera.