Dalam komunikasi seputar LLM dan antarmuka populer seperti ChatGPT, istilah 'halusinasi' sering digunakan untuk merujuk pada pernyataan palsu yang dibuat dalam keluaran model ini. Ini menyiratkan bahwa ada beberapa koherensi dan upaya oleh LLM untuk menyadari kebenaran, sementara juga mengalami saat-saat kegilaan (ringan). Dengan demikian, LLM secara efektif diperlakukan seperti anak kecil atau orang yang menderita gangguan seperti Alzheimer, yang memberinya keagenan dalam prosesnya. Bahwa ini sama sekali tidak masuk akal dan jelas salah adalah subjek sebuah risalah oleh (Michael Townsen Hicks) dan rekannya, sebagaimana diterbitkan di Etika dan Teknologi Informasi.
Banyak perbedaannya terletak pada perbedaan antara kebohongan dan omong kosong, seperti yang dijelaskan dengan sangat fasih dalam esai (Harry G. Frankfurt) tahun 1986 dan buku tahun 2005 Tentang Omong kosong. Sedangkan kebohongan dimaksudkan untuk menipu dan menutupi kebenaran, omong kosong dilakukan tanpa memperhatikan, atau berhubungan dengan, kebenaran. Omong kosong hanya dimaksudkan untuk melayani situasi saat ini, mengingatkan pada yang terburuk gigitan suara budaya.
Ketika kita mempertimbangkan cara kerja LLM, dengan kueri masukan yang digunakan untuk menyediakan kecocokan probabilitas di seluruh simpul tertimbang yang membentuk ruang vektornya, kita dapat melihat bahwa keluaran yang dihasilkan secara efektif adalah keluaran dari algoritma prediksi kata yang terlalu besar. Hal ini menghalangi kemungkinan adanya kecerdasan dan dengan demikian kesadaran kognitif akan 'kebenaran'. Artinya, meskipun tidak ada maksud di balik LLM, itu tetap omong kosong, meskipun itu jenis yang lembut (tidak disengaja). Namun, ketika memperhitungkan agensi dan maksud dari mereka yang membuat LLM, melatihnya, dan membuat antarmuka (seperti ChatGPT), kita memasuki wilayah omong kosong yang keras dan disengaja.
Omong kosong ini juga yang menyebabkan LLM sebagian besar sudah dihapuskan, dengan Pengambilan Generasi Augmented (RAG) mengubah algoritme prediksi kata menjadi mesin pencari yang lebih canggih. Bahkan pemodal ventura pun hanya bisa menerima begitu banyak omong kosong.
