Emmett Shear, mantan CEO Twitch, telah meluncurkan startup baru bernama Stem AI. Menurut laporan TechCrunch, startup ini saat ini masih dalam tahap rahasia, tetapi dokumen publik menunjukkan bahwa Stem AI didirikan pada Juni 2023 dan diajukan untuk merek dagang pada Agustus 2023.
Shear terdaftar sebagai CEO pada dokumen pendirian yang diajukan kepada Sekretaris Negara California awal tahun ini. Menurut aplikasi merek dagang, Stem AI sedang mengembangkan perangkat lunak untuk membuat AI yang “mengerti, bekerja sama dengan, dan sejalan dengan perilaku manusia, preferensi manusia, biologi manusia, moralitas manusia, dan etika manusia”.
Startup ini juga telah menerima investasi dari Andreessen Horowitz (a16z) pada bulan Agustus, menurut Pitchbook. Salah satu pendiri Stem AI adalah Adam Goldstein, yang terkenal karena mendirikan situs pencarian dan pemesanan perjalanan Hipmunk.
Shear telah lama menyatakan keprihatinan bahwa AI yang kuat suatu hari akan memiliki kapasitas untuk menghancurkan umat manusia. Dalam sebuah podcast teknologi bulan Juni, Shear mengatakan bahwa dia khawatir bahwa AI pada akhirnya akan mendapatkan kemampuan untuk meningkatkan diri di luar jangkauan kontrol manusia.
Stem AI mungkin sedang mengembangkan solusi untuk mengatasi masalah “AI alignment” ini. Shear telah membawa ke media sosial untuk menyiarkan pandangannya tentang desain, keamanan, dan regulasi AI. Dalam beberapa posting, Shear mengkritik sebagian besar obrolan AI sebagai “neurotik yang sangat disosiatif”.
Latar Belakang
Shear telah lama bekerja di Twitch setelah membantu menumbuhkan platform dari situs pemula bernama Justin.tv ke raksasa milik Amazon seperti sekarang ini. Pada November 2023, Shear sempat menjabat sebagai CEO sementara di OpenAI setelah beberapa anggota dewan perusahaan mengeluarkan CEO Sam Altman. Shear telah lama menyatakan keprihatinan bahwa AI yang kuat suatu hari akan memiliki kapasitas untuk menghancurkan umat manusia.
Shear telah lama bekerja di Twitch setelah membantu menumbuhkan platform dari situs pemula bernama Justin.tv ke raksasa milik Amazon seperti sekarang ini. Pada November 2023, Shear sempat menjabat sebagai CEO sementara di OpenAI setelah beberapa anggota dewan perusahaan mengeluarkan CEO Sam Altman.
Shear telah lama menyatakan keprihatinan bahwa AI yang kuat suatu hari akan memiliki kapasitas untuk menghancurkan umat manusia. Dalam sebuah podcast teknologi bulan Juni, Shear mengatakan bahwa dia khawatir bahwa AI pada akhirnya akan mendapatkan kemampuan untuk meningkatkan diri di luar jangkauan kontrol manusia.
Shear juga telah membawa ke media sosial untuk menyiarkan pandangannya tentang desain, keamanan, dan regulasi AI. Dalam beberapa posting, Shear mengkritik sebagian besar obrolan AI sebagai “neurotik yang sangat disosiatif”.
