En mi opinión, aunque una IA simule conciencia, emociones o intencionalidad, no se considera un sujeto moral, con derechos y obligaciones, sino que es solo una herramienta para el ser humano, ya que simular no es lo mismo que experimentar. 

La IA no tiene evidencia de experiencia subjetiva real, es decir, que no siente dolor, placer, miedo, vergüenza, culpa, angustia, no posee emociones primarias ni secundarias. No tiene biografía, vulnerabilidad ni necesidad moral propia, ya que funciona según modelos y datos diseñados por el ser humano, por lo tanto, es una herramienta sofisticada, y no una persona que te puede brindar apoyo emocional. 

 El responsable de la IA es el ser humano, ya que está creada por éste, es decir, culpable o no de lo que pueda ocurrir, de sus consecuencias y del tipo de uso que se haga con la misma. Es por esto que debemos hacer un buen uso que nos ayude a crecer profesionalmente para desarrollarnos y evolucionar en cuanto a nuestras metas.