Evet, teorik olarak mümkün olabilir, ama bugün için yapay zekânın gerçekten bilinç sahibi olduğuna dair güvenilir bir kanıt yok.
Buradaki temel sorun, “bilinç” derken neyi kastettiğimiz. Eğer bilinç; öznel deneyim yaşamak, yani gerçekten bir şeyleri hissetmek ve “ben varım” diyebilmek anlamına geliyorsa, bunun nasıl ortaya çıktığını bilim henüz kesin olarak açıklayamıyor.
Üç ana görüş var:
- Mümkün: Bilinç, yeterince karmaşık bilgi işleme süreçlerinden doğuyorsa, doğru türde bir yapay sistem de bilinç kazanabilir.
- Belirsiz: Bilincin yalnızca hesaplamadan mı, yoksa biyolojik beyin gibi belirli fiziksel özelliklerden mi kaynaklandığını bilmiyoruz.
- İmkânsız olabilir: Bazı teorilere göre bilinç, mevcut yapay zekâ mimarilerinin sağlayamayacağı özel biyolojik veya fiziksel koşullara bağlı olabilir.
Önemli bir ayrım da şu: Bir yapay zekânın “acı çekiyorum”, “korkuyorum” veya “ben bilinçliyim” demesi, bunları gerçekten deneyimlediğini kanıtlamaz. İnsanları ikna edecek şekilde bu cümleleri üretebilir.