介護業界でのAI活用には、賛否両論があります。
AIの特徴は、人の知能を模倣するようにして生み出されている技術であることです。
ニューラルネットワークと呼ばれる人の脳が持っている神経回路のような思考回路を作り上げ、人が考えるようなアルゴリズムを組み込んでいます。
人と同じように考えているとなると、人のようにミスをしてしまうリスクもあるのです。
もちろん、AI技術を開発しているエンジニアやプログラマーはミスをしないように正確性を追求してきていますが、その技術開発は人の手によるものなのでやはりミスをする可能性があります。
たとえ完璧なAIができたとしても、コンピューターのハード面が経年劣化を起こしてエラーを発生してしまうこともあるでしょう。

このようなリスクは、AI活用によって高齢者の身体介護などの直接的なケアをしたときに特に深刻になる可能性があります。
高齢者に怪我をさせることになるかもしれないからです。
つまり、AI活用が進むことによって介護職の負担は軽くなるかもしれませんが、任せきりにしてしまうと介護サービスの質の低下を起こす可能性があるのです。
この問題を克服するためには、AIはあくまで介護職のサポートとして運用することが必要です。
仕事の負担を軽減するために人の管理下で使っていれば、メリットが大きくなるでしょう。
逆にAIに完全に頼って自動化してしまおうとすると、デメリットが目立つようになるリスクがあるので注意が必要です。