Wanita dalam Bidang Kecerdasan Buatan: Sarah Myers West mengatakan kita harus bertanya, 'Kenapa membangun AI sama sekali?'

Untuk memberikan pengakuan yang pantas bagi wanita akademisi yang fokus pada AI dan yang lainnya, TechCrunch telah menerbitkan serangkaian wawancara yang fokus pada wanita luar biasa yang telah berkontribusi pada revolusi AI. Kami menerbitkan artikel-artikel ini sepanjang tahun karena booming AI terus berlanjut, menyoroti karya penting yang sering tidak diakui. Baca lebih banyak profil di sini.

Sarah Myers West adalah direktur manajemen di institut AI Now, sebuah institut penelitian Amerika yang mempelajari implikasi sosial dari AI dan penelitian kebijakan yang mengatasi konsentrasi kekuatan di industri teknologi. Dia sebelumnya menjabat sebagai penasihat senior AI di Komisi Perdagangan Federal AS dan sebagai ilmuwan peneliti tamu di Universitas Northeastern, serta kontributor penelitian di Citizens and Technology Lab Cornell.

Singkatnya, bagaimana Anda memulai karier Anda di bidang AI? Apa yang menarik Anda pada bidang ini?

Saya telah menghabiskan 15 tahun terakhir menganalisis peran perusahaan teknologi sebagai aktor politik yang kuat saat mereka muncul di garis depan tata kelola internasional. Awal karier saya, saya memiliki kursi baris depan yang mengamati bagaimana perusahaan teknologi AS muncul di seluruh dunia dengan cara yang mengubah lanskap politik - di Asia Tenggara, Cina, Timur Tengah dan tempat lain - dan menulis sebuah buku yang menyelami bagaimana lobbying industri dan regulasi membentuk asal-usul model bisnis pengawasan untuk internet meskipun teknologi yang menawarkan alternatif dalam teori yang prakteknya gagal terwujud.

Di banyak titik dalam karir saya, saya bertanya, 'Mengapa kita terperangkap dalam visi masa depan yang sangat distopia ini?' Jawabannya sedikit berkaitan dengan teknologi itu sendiri dan banyak berkaitan dengan kebijakan publik dan komersialisasi.

Itulah inti proyek saya sejak saat itu, baik dalam karir riset saya maupun sekarang dalam pekerjaan kebijakan saya sebagai co-direktur AI Now. Jika AI adalah bagian dari infrastruktur kehidupan sehari-hari kita, kita perlu mengkaji secara kritis lembaga-lembaga yang memproduksinya, dan memastikan bahwa sebagai masyarakat ada gesekan yang cukup - baik melalui regulasi atau melalui organisasi - untuk memastikan bahwa kebutuhan publik yang dilayani pada akhirnya, bukan kebutuhan perusahaan teknologi.

Karya apa yang paling Anda banggakan dalam bidang AI?

Saya sangat bangga dengan pekerjaan yang kami lakukan selama di FTC, yang merupakan lembaga pemerintah AS yang antara lain berada di garis depan penegakan regulasi kecerdasan buatan. Saya suka terlibat langsung dalam kasus-kasus tersebut. Saya dapat menggunakan pelatihan metode saya sebagai peneliti untuk terlibat dalam pekerjaan investigasi, karena toolkit essentially sama. Sangat memuaskan bisa menggunakan alat-alat itu untuk meminta pertanggungjawaban langsung kepada kekuasaan, dan melihat pekerjaan ini memiliki dampak langsung pada masyarakat, baik itu mengatasi bagaimana AI digunakan untuk menurunkan nilai pekerja dan menaikkan harga atau melawan perilaku anti-saing perusahaan teknologi besar.

Kami berhasil membawa tim teknolog yang luar biasa di bawah Kepresidenan Kantor Ilmu dan Kebijakan Teknologi, dan sangat menyenangkan melihat landasan yang kami letakkan memiliki relevansi langsung dengan munculnya generative AI dan pentingnya infrastruktur cloud.

Apa beberapa masalah yang paling mendesak yang dihadapi AI saat berkembang?

Yang pertama dan terpenting adalah teknologi AI banyak digunakan dalam konteks yang sangat sensitif - di rumah sakit, di sekolah, di perbatasan, dan sebagainya - namun tetap kurang diuji dan divalidasi. Ini adalah teknologi yang rentan terhadap kesalahan, dan kita tahu dari penelitian independen bahwa kesalahan itu tidak tersebar dengan merata; mereka secara tidak proporsional merugikan komunitas yang secara lama telah menanggung beban diskriminasi. Kita seharusnya menetapkan standar yang jauh lebih tinggi. Tetapi yang tidak kalah penting bagi saya adalah bagaimana institusi yang kuat menggunakan AI - apakah itu berfungsi atau tidak - untuk membenarkan tindakan mereka, mulai dari penggunaan senjata terhadap sipil di Gaza hingga penghilangan hak bagi pekerja. Ini adalah masalah bukan dari teknologi, namun dari diskursus: bagaimana kita mengorientasikan budaya kita seputar teknologi dan gagasan bahwa jika AI terlibat, beberapa pilihan atau perilaku tersebut dianggap lebih 'obyektif' atau dengan begitu diberikan kelonggaran.

Apa cara terbaik untuk membangun AI secara bertanggung jawab?

Kita perlu selalu mulai dari pertanyaan: Kenapa membangun AI sama sekali? Apa yang membenarkan penggunaan kecerdasan buatan, dan apakah teknologi AI cocok untuk tujuan tersebut? Kadang-kadang jawabannya adalah untuk membangun yang lebih baik, dan dalam hal itu pengembang harus memastikan kepatuhan terhadap hukum, mendokumentasikan serta memvalidasi sistem mereka dengan kuat, dan membuat apa yang bisa mereka buka dan transparan, sehingga peneliti independen dapat melakukan hal yang sama. Tetapi kadang-kadang jawabannya bukanlah untuk membangun sama sekali: kita tidak memerlukan senjata atau teknologi pengawasan yang dibangun dengan tanggung jawab. Penggunaan akhir merupakan hal penting dalam pertanyaan ini, dan itulah tempat kita harus memulai.