Kecerdasan buatan (AI) kini sudah menjadi sebahagian daripada kehidupan harian. Ia digunakan bagi menulis teks, menjana imej, menyusun jadual, menganalisis corak pengguna dan mempercepatkan kerja pejabat. Dalam dunia pengguna biasa, kesilapan AI mungkin hanya berakhir sebagai jawapan yang salah, cadangan lemah atau paparan data yang tidak tepat.
Namun, dalam penerbangan kesilapan seperti itu boleh membawa kesan yang jauh lebih besar. Satu cadangan yang salah boleh menjejaskan urutan pendaratan, penyelenggaraan pesawat, aliran trafik udara atau keputusan pengawal yang sedang mengurus ruang udara yang padat.
Sebab itu sistem yang menyokong kawalan trafik udara, urutan pendaratan, trajektori pesawat, penyelenggaraan prediktif atau pengesanan konflik tidak boleh dilayan seperti aplikasi percubaan. Ia beroperasi dalam persekitaran keselamatan kritikal. Setiap cadangan, ramalan dan amaran perlu boleh dijejak, difahami, diuji dan dipertanggungjawabkan.
Perbahasan tentang AI dalam penerbangan tidak sepatutnya bermula dengan soalan sama ada teknologi itu kelihatan pintar. Tetapi, soalan yang lebih penting ialah sama ada sistem tersebut boleh dipercayai dalam keadaan sebenar, termasuk ketika data tidak lengkap, persekitaran operasi berubah atau manusia perlu membuat keputusan dalam masa yang sangat singkat.
Hervé Dammann, Naib Presiden Eksekutif Land and Air Systems, Thales, menegaskan bahawa AI dalam sistem keselamatan kritikal mesti kekal sebagai sokongan keputusan, bukan pengganti manusia.
“Kecerdasan buatan digunakan sebagai sistem sokongan keputusan yang diperakui dalam ekosistem keselamatan kritikal, dan bukannya sebagai pengganti kepada autoriti operasi,” kata Dammann.
Dalam kerangka itu, AI boleh membantu manusia menganalisis corak lebih awal, menyusun maklumat dengan lebih pantas dan mengemukakan cadangan yang lebih tepat. Namun, kuasa menentukan tindakan akhir tidak boleh diserahkan kepada mesin tanpa akauntabiliti manusia.
Model umum bukan kayu ukur untuk penerbangan
Satu kelemahan dalam wacana awam tentang AI ialah kecenderungan menyamakan semua bentuk teknologi itu. Model generatif umum yang boleh menjawab pelbagai soalan tidak sama dengan AI khusus yang dibangunkan untuk tugasan penerbangan tertentu.
Dalam sistem keselamatan kritikal, keupayaan serba boleh tidak semestinya suatu kelebihan. Jika fungsi sesuatu model terlalu luas tetapi had operasinya kabur, ia boleh menjadi risiko.
Sistem penerbangan memerlukan AI yang berfokus fungsinya dan jelas sempadan penggunaannya. Jika sistem itu menyokong urutan pendaratan, ia perlu diuji dalam senario trafik sebenar, cuaca buruk dan keadaan operasi tidak normal. Jika ia membantu penyelenggaraan prediktif, data latihannya mesti disahkan dan cadangannya perlu boleh diaudit oleh jurutera. Jika ia membantu pengurusan trafik udara, tindak balasnya perlu konsisten dan boleh dijangka, bukan sekadar kelihatan meyakinkan.
Menurut Dammann, model AI dalam sistem keselamatan kritikal mesti beroperasi dalam had prestasi yang ditetapkan. Sumber data latihan, laluan logik dan output yang dihasilkan perlu boleh dijejak sepenuhnya. Pada masa sama, pengendali manusia kekal memegang kuasa akhir terhadap objektif misi dan keputusan operasi.
Itulah perbezaan asas antara AI penerbangan dengan aplikasi pengguna. Dalam penerbangan, jawapan yang nampak betul tidak mencukupi. Sistem perlu menunjukkan bagaimana cadangan itu dihasilkan, dalam keadaan apa ia masih sah, dan bila manusia perlu mengambil alih.
EASA melalui Pelan Tindakan Kecerdasan Buatan (AI Roadmap 2.0) turut menekankan pendekatan berpusatkan manusia dalam integrasi AI penerbangan. Tumpuannya bukan sekadar kecekapan teknologi, tetapi keselamatan, keselamatan siber, jaminan AI, faktor beban manusia dan etika.
Pensijilan bukan sekadar soal ketepatan
Dalam aplikasi biasa, ketepatan sering dijadikan ukuran utama. Sekiranya, sistem mencapai skor tinggi dalam ujian makmal, ia dianggap berjaya. Dalam penerbangan, ukuran seperti itu tidak memadai.
Bagi sistem yang menyentuh keselamatan, pengawal selia perlu tahu bagaimana AI bertindak dalam keadaan biasa, keadaan terganggu dan senario luar jangka yang jarang berlaku tetapi berisiko tinggi. Sistem juga perlu menunjukkan tingkah laku yang konsisten dan boleh dijangka, bukan hanya keputusan purata yang baik.
Dammann menyatakan bahawa dalam persekitaran seperti penyelesaian konflik trafik udara, pensijilan menuntut lebih daripada sekadar ketepatan. Pengawal selia mahu melihat tingkah laku sistem dalam keadaan normal, terganggu dan luar jangka, kebolehkesanan penuh terhadap data latihan serta logik keputusan, selain jaminan bahawa autoriti manusia kekal terpelihara.
Sebab itu AI dalam penerbangan bergerak lebih berhati-hati berbanding pasaran komersial. Sistem yang memberi cadangan kepada pengawal trafik udara tidak boleh disahkan hanya kerana ia lulus di dalam persekitaran simulasi yang ideal. Ia perlu diuji dalam trafik padat, cuaca berubah, gangguan komunikasi, masukan data lewat, input bercanggah dan keadaan operasi yang menuntut keputusan pantas.
FAA dalam kerangka Jaminan Keselamatan Kecerdasan Buatan turut melihat AI sebagai teknologi yang berpotensi menyokong keselamatan penerbangan, tetapi membawa cabaran baharu jika tidak dinilai dengan betul. Sistem yang belajar daripada data dan memperbaiki prestasi melalui pembelajaran mesin tidak sama dengan sistem tradisional yang dibina sepenuhnya melalui reka bentuk tetap. Sifat itu menuntut pendekatan jaminan keselamatan yang jauh lebih ketat.
Cabaran pensijilan bukan sekadar membuktikan sistem boleh berfungsi. Cabarannya ialah membuktikan sistem masih kebal dan selamat apabila keadaan tidak berjalan seperti yang dirancang.
Manusia bukan hiasan dalam sistem autonomi
Autonomi sering disalah tafsir sebagai proses mengurangkan peranan manusia sedikit demi sedikit. Dalam penerbangan, tafsiran itu sangat berbahaya.
Fungsi autonomi boleh mengurangkan beban kerja, mempercepatkan pemprosesan data dan membantu sistem menjangka keadaan lebih awal. Namun, ia tidak boleh mengaburkan fakta tentang siapa yang bertanggungjawab apabila keputusan membawa kesan operasi.
Dammann melihat imbangan itu sebagai soal disiplin seni bina sistem. Autonomi boleh mengukuhkan prestasi dan menjadikan operasi lebih boleh dijangka, tetapi tanggungjawab perintah mesti mutlak kekal pada manusia.
Peranan manusia dalam sistem kritikal bukan sekadar menjadi pemantau pasif. Jika operator hanya diletakkan di hujung proses untuk meluluskan cadangan mesin tanpa maklumat yang cukup, autoriti manusia menjadi sekadar hiasan. Untuk berfungsi dengan betul, manusia perlu tahu apa yang dicadangkan oleh sistem, mengapa cadangan itu dibuat, tahap keyakinannya dan pilihan lain yang masih tersedia.
EASA melalui dokumen konsep berkaitan aplikasi pembelajaran mesin tahap 1 dan tahap 2 turut memperincikan konsep gandingan manusia dan AI (human-AI teaming). Dalam konsep ini, sistem AI boleh membuat keputusan secara automatik di bawah pemantauan manusia, tetapi reka bentuknya mesti memastikan interaksi manusia dan mesin kekal selamat.
Manusia tidak boleh diletakkan di hujung proses semata-mata untuk menanggung akibat keputusan sistem. Operator perlu berada dalam rantaian keputusan dengan maklumat yang cukup, masa yang cukup dan kuasa sebenar untuk menerima, mengubah atau menolak cadangan AI.
Autonomi perlu diperluas secara berdisiplin
Dalam ruang udara yang semakin padat, khususnya apabila penerbangan awam dan operasi ketenteraan bertindih, penggunaan AI perlu diperluas secara berhati-hati. Lebih banyak fungsi automatik tidak semestinya menjadikan sistem lebih selamat.
Jika setiap fungsi AI bertindak sebagai lapisan keputusan tersendiri tanpa hubungan jelas dengan rangka kerja perintah dan kawalan, ruang udara boleh menjadi lebih rumit.
Dammann menegaskan bahawa penskalaan autonomi yang bertanggungjawab bermula dengan integrasi. Fungsi autonomi mesti beroperasi dalam rangka kerja perintah dan kawalan yang sedia ada, khususnya dalam ruang udara awam yang padat atau persekitaran yang menyaksikan operasi awam dan ketenteraan bertindih.
Menurut beliau, Thales memperkenalkan autonomi secara berperingkat. Setiap fungsi disahkan dalam konteks operasi sebelum diperluas. Sistem juga direka supaya boleh mengalami penurunan fungsi secara terkawal apabila berlaku gangguan, bagi memastikan kesinambungan operasi walaupun sambungan atau input luaran terjejas.
Prinsip ini penting untuk Asia-Pasifik. Rantau ini mempunyai ruang udara padat, tahap kematangan teknologi yang berbeza, tuntutan kedaulatan negara dan persekitaran operasi yang kadangkala menggabungkan penerbangan awam, latihan ketenteraan, bantuan bencana dan operasi keselamatan. AI yang tidak diintegrasikan dengan baik boleh menambah lapisan kerumitan, bukan mengurangkannya.
Kertas kerja A42-WP/234 yang dibentangkan kepada Perhimpunan ICAO menyatakan bahawa AI berpotensi digunakan dalam penyelenggaraan prediktif, pengoptimuman ruang udara, pengurusan trajektori penerbangan dan pengesanan risiko keselamatan. Namun, dokumen itu turut mengingatkan bahawa integrasi AI membawa kerumitan operasi dan kawal selia baharu, serta mendesak kerjasama global yang utuh.
Ketepatan mutlak bukan janji yang jujur
Antara jawapan paling penting dalam wawancara ini datang daripada isu penyelenggaraan prediktif. Dalam pemasaran teknologi, AI sering digambarkan seolah-olah mampu meramal segala-galanya dengan tepat. Dalam penerbangan, dakwaan seperti itu tidak patut digunakan.
Yannick Assouad, Naib Presiden Eksekutif Avionics, Thales, menolak idea bahawa mana-mana sistem boleh menjanjikan ketepatan mutlak.
“Dalam penerbangan, tiada sistem boleh mendakwa ketepatan mutlak secara meyakinkan. Yang penting ialah kebolehpercayaan yang boleh diukur dalam had yang ditetapkan,” kata Assouad.
Petikan itu membawa perbincangan AI kembali berpijak di alam realiti operasi. Sistem penyelenggaraan prediktif tidak perlu berpura-pura mampu melihat masa depan secara sempurna. Fungsinya ialah mengesan corak, memberi amaran awal, membantu jurutera menilai risiko dan mengurangkan gangguan yang tidak dirancang.
Assouad menjelaskan bahawa model penyelenggaraan prediktif dilatih menggunakan set data operasi yang disahkan dan diuji dalam keadaan simulasi serta keadaan sebenar. Outputnya perlu boleh diterangkan dan diaudit supaya jurutera boleh menilai cadangan sistem, bukan menerimanya secara membuta tuli. Pelaksanaan juga dibuat secara berfasa dan dipantau, dengan peranan manusia sentiasa dikekalkan.
Nilai AI dalam penyelenggaraan prediktif terletak pada keupayaan mengurangkan kejutan operasi, bukan menggantikan jurutera. Sistem boleh mengimbas corak dengan pantas, tetapi manusia masih perlu menilai sama ada cadangan itu munasabah, selamat dan sesuai dalam kerangka penyelenggaraan yang diperakui.
Sistem kritikal memerlukan AI yang terhad dan boleh diaudit
Sistem keselamatan kritikal tidak memerlukan AI yang mahu menjawab semua perkara. Ia memerlukan AI yang jelas tugasnya, jelas hadnya dan boleh menjelaskan tindakannya.
Dammann menyatakan bahawa di bawah payung cortAIx, sistem AI dibangunkan untuk tugas operasi yang ditentukan dengan sangat jelas. Pengesahannya dibuat secara berstruktur selari dengan kerangka pensijilan penerbangan. Ini termasuk kelulusan simulasi dalam keadaan tidak normal, penilaian lapangan terkawal dan dokumentasi telus yang boleh menyokong semakan pihak pengawal selia.
Kerjasama strategik dengan penyedia perkhidmatan navigasi udara seperti CAAS melalui AIRLab pula membantu memastikan penilaian dibuat dalam persekitaran yang benar-benar mewakili logik operasi sebenar.
Pendekatan ini jauh lebih matang berbanding kecenderungan industri teknologi umum yang sering mengejar model paling besar atau paling serba boleh. Dalam penerbangan, model yang terlalu luas tanpa had operasi yang jelas bukanlah kelebihan. Ia boleh menjadi beban kepada proses pensijilan dan mengundang risiko keselamatan.
AI yang berguna dalam sistem kritikal mesti khusus, diuji ketahanannya, boleh diaudit, boleh dijelaskan tindakannya dan boleh dihentikan apabila perlu. Nilai utamanya terletak pada disiplin kejuruteraan, bukan pada keupayaan retorik untuk menjawab semua perkara.
Asia-Pasifik perlu menilai AI sebagai isu keselamatan
Asia-Pasifik sedang berdepan pertumbuhan trafik udara yang pesat, ruang udara yang semakin kompleks dan tuntutan kecekapan operasi yang lebih tinggi. Dalam keadaan ini, penggunaan AI untuk pengurusan trafik, penyelenggaraan prediktif, urutan pendaratan atau pemantauan keselamatan semakin sukar untuk diketepikan.
Namun, rantau ini tidak boleh terus melompat kepada penggunaan AI tanpa bersandarkan kerangka keselamatan yang kukuh. Jurang kematangan digital antara negara, perbezaan dasar kawal selia, tuntutan kedaulatan data dan operasi rentas sempadan menjadikan pensijilan AI dalam penerbangan berdepan kerumitan.
Jika pendekatan sesebuah negara terhadap AI penerbangan terlalu longgar, risikonya tidak semestinya terhad kepada satu ruang udara sahaja. Penerbangan ialah sistem rantaian rentas sempadan. Pangkalan data, aliran trafik, protokol keselamatan, jadual dan keputusan operasi semuanya bergerak merentasi garis sempadan bidang kuasa antarabangsa.
Sebab itu naratif AI dalam pasaran penerbangan Asia-Pasifik tidak boleh dijual sekadar sebagai kisah pemodenan automasi semata-mata. Ia perlu dinilai secara serius sebagai isu keselamatan mutlak, kebertanggungjawaban dan kepercayaan operasi.
Keputusan akhir mesti jelas pemiliknya
AI boleh mempercepatkan kerja manusia. Ia boleh menyaring data, mengesan corak, mencadangkan pilihan penyelesaian dan memberi amaran awal. Dalam ruang udara yang semakin padat, keupayaan tersebut sangat bernilai. Dalam penyelenggaraan pesawat, ia boleh mengurangkan rekod gangguan tidak dirancang. Dalam pengurusan trafik, ia terbukti boleh membantu menyusun aliran secara jauh lebih baik.
Tetapi, sistem pintar yang sekadar memberi cadangan tidak sama dengan pihak yang memikul beban tanggungjawab.
Dalam undang-undang penerbangan, keputusan akhir mesti jelas pemiliknya. Jika pesawat dilencongkan, jika urutan pendaratan dirombak, jika cadangan penyelenggaraan diluluskan atau jika pertindihan konflik trafik udara perlu diselesaikan, individu manusia dan organisasi yang bertanggungjawab mesti dikenal pasti.
Tanpa kejelasan tersebut, AI tidak sedikit pun menghapuskan kerumitan operasi. Ia sekadar memindahkan kerumitan ke zon kelabu akauntabiliti.
Cabaran sebenar AI dalam sistem kritikal bukanlah untuk membuktikan bahawa mesin perkomputeran boleh menjadi lebih pantas daripada otak manusia. Fakta itu sudah lama terbukti jelas. Cabaran yang lebih hakiki ialah memastikan kepantasan algoritma itu tidak memadamkan jejak kebolehkesanan, tidak mengaburkan garis tanggungjawab siasatan dan tidak langsung melemahkan kuasa budi bicara manusia dalam membuat keputusan akhir.
AI memang diakui mampu membantu operasi penerbangan menjadi lebih efisien dan tersusun, dengan syarat had sempadan dan kebertanggungjawabannya jelas. Dalam sistem keselamatan kritikal, manusia mesti sentiasa memegang takhta sebagai pemutus keputusan. Bukan kerana keupayaan fizikal manusia itu sempurna, tetapi atas alasan yang sangat asas: penanggungjawab akauntabiliti nyawa tidak boleh sesekali diserahkan kepada barisan algoritma. -airtimes.my
