ਇਹ ਸੱਚਮੁੱਚ ਹੋ ਸਕਦਾ ਹੈ — ਇਹ ਇੱਕ ਅਸਲ ਖਤਰਾ ਹੈ, ਨਾ ਕਿ ਨੈਤਿਕ ਸਮੁੰਦਰੀ ਬੁਲਬੁਲਾ। ਸਭ ਤੋਂ ਨਜ਼ਦੀਕੀ ਉਦਾਹਰਣ ਨੈਵੀਗੇਸ਼ਨ ਦੁਰਬਲ ਹੋਣਾ ਹੈ: ਜੋ ਲੋਕ GPS 'ਤੇ ਮੋੜ ਮੋੜ ਕਰ ਅਨੁਸਰਣ ਕਰਦੇ ਹਨ ਉਹ ਅਕਸਰ ਆਪਣੀ ਦਿਸ਼ਾ ਸੂਝ ਗੁਆ ਦਿੰਦੇ ਹਨ, ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਨੇ ਉਸ ਸੋਚ ਨੂੰ ਬਾਹਰ ਕੀਤਾ ਜੋ ਇਸ ਨੂੰ ਬਣਾਉਂਦੀ ਸੀ। ਕੋਡ ਨਾਲ ਵੀ ਅਜਿਹਾ ਹੋ ਸਕਦਾ ਹੈ: ਜੇ AI ਸਾਰੀ ਸਮਝਦਾਰੀ ਕਰਦਾ ਹੈ, ਤਾਂ ਸੋਚਣ ਵਾਲੀ ਮਾਸਪੇਸ਼ੀ ਕਮਜ਼ੋਰ ਹੋ ਜਾਂਦੀ ਹੈ। ਮੰਤਵ ਹੈ AI ਨੂੰ ਦਕਸ਼ਤਾ ਬਣਾਉਣ ਲਈ ਵਰਤਣਾ, ਨਾ ਕਿ ਬਦਲਣ ਲਈ।
