Exploring the Ethical Challenges of Conversational AI in Mental Health Care: Scoping Review
JMIR Mental Health,
Journal Year:
2025,
Volume and Issue:
12, P. e60432 - e60432
Published: Feb. 21, 2025
Background
Conversational
artificial
intelligence
(CAI)
is
emerging
as
a
promising
digital
technology
for
mental
health
care.
CAI
apps,
such
psychotherapeutic
chatbots,
are
available
in
app
stores,
but
their
use
raises
ethical
concerns.
Objective
We
aimed
to
provide
comprehensive
overview
of
considerations
surrounding
therapist
individuals
with
issues.
Methods
conducted
systematic
search
across
PubMed,
Embase,
APA
PsycINFO,
Web
Science,
Scopus,
the
Philosopher’s
Index,
and
ACM
Digital
Library
databases.
Our
comprised
3
elements:
embodied
intelligence,
ethics,
health.
defined
conversational
agent
that
interacts
person
uses
formulate
output.
included
articles
discussing
challenges
functioning
role
added
additional
through
snowball
searching.
English
or
Dutch.
All
types
were
considered
except
abstracts
symposia.
Screening
eligibility
was
done
by
2
independent
researchers
(MRM
TS
AvB).
An
initial
charting
form
created
based
on
expected
revised
complemented
during
process.
The
divided
into
themes.
When
concern
occurred
more
than
articles,
we
identified
it
distinct
theme.
Results
101
which
95%
(n=96)
published
2018
later.
Most
reviews
(n=22,
21.8%)
followed
commentaries
(n=17,
16.8%).
following
10
themes
distinguished:
(1)
safety
harm
(discussed
52/101,
51.5%
articles);
most
common
topics
within
this
theme
suicidality
crisis
management,
harmful
wrong
suggestions,
risk
dependency
CAI;
(2)
explicability,
transparency,
trust
(n=26,
25.7%),
including
effects
“black
box”
algorithms
trust;
(3)
responsibility
accountability
(n=31,
30.7%);
(4)
empathy
humanness
(n=29,
28.7%);
(5)
justice
(n=41,
40.6%),
inequalities
due
differences
literacy;
(6)
anthropomorphization
deception
(n=24,
23.8%);
(7)
autonomy
(n=12,
11.9%);
(8)
effectiveness
(n=38,
37.6%);
(9)
privacy
confidentiality
(n=62,
61.4%);
(10)
concerns
care
workers’
jobs
(n=16,
15.8%).
Other
discussed
9.9%
(n=10)
articles.
Conclusions
scoping
review
has
comprehensively
covered
aspects
While
certain
remain
underexplored
stakeholders’
perspectives
insufficiently
represented,
study
highlights
critical
areas
further
research.
These
include
evaluating
risks
benefits
comparison
human
therapists,
determining
its
appropriate
roles
therapeutic
contexts
impact
access,
addressing
accountability.
Addressing
these
gaps
can
inform
normative
analysis
guide
development
guidelines
responsible
Language: Английский
Enhancing education for children with ASD: a review of evaluation and measurement in AI tool implementation
Disability and Rehabilitation Assistive Technology,
Journal Year:
2025,
Volume and Issue:
unknown, P. 1 - 18
Published: March 13, 2025
This
article
addresses
the
gaps
in
current
research
regarding
use
of
artificial
intelligence
(AI)
tools
to
educate
children
with
autism
spectrum
disorder
(ASD).
The
proposed
metrics
are
specifically
designed
evaluate
progress
learning
AI-assisted
education,
considering
unique
needs
this
demographic.
review
highlights
potential
long-term
impact
studies
determine
lasting
effects
AI
on
social
skills,
emotional
development,
and
overall
academic
achievement.
ethical
considerations
surrounding
intervention
autistic
education
thoroughly
examined.
By
combining
diverse
methodologies
utilized
existing
studies,
a
comprehensive
analysis
challenges
is
presented,
along
interdisciplinary
approaches
for
improvement
that
can
serve
as
roadmap
future
research.
manuscript
provides
innovative
perspectives,
bridges
gaps,
advocates
effective
integration
educating
ASD.
Language: Английский
Hemşirelik Öğrencilerinin Psikiyatri Hemşireliğinde Yapay Zekâ Kullanımına Yönelik Algı, Beklenti Ve Endişelerinin Derinlemesine İncelenmesi: Nitel Çalışma
Gümüşhane Üniversitesi Sağlık Bilimleri Dergisi,
Journal Year:
2025,
Volume and Issue:
14(1), P. 214 - 231
Published: March 23, 2025
Yapay
zeka,
psikiyatri
hemşireliği
alanında
giderek
artan
bir
öneme
sahiptir.
Hemşirelik
öğrencilerinin
bu
konuda
bilgi
sahibi
olmaları
önemlidir.
Bu
araştırma,
hemşireliğinde
yapay
zeka
konusunda
hemşirelik
algılarını,
beklentilerini
ve
endişelerini
anlamak
amacıyla
gerçekleştirilmiştir.
Araştırmada
yöntem
olarak
nitel
araştırma
desenlerinden
içerik
analizi
kullanılmıştır.
Araştırma,
Orta
Karadeniz
bölgesinde
yer
alan
şehirdeki
üniversite
öğrencileri
ile
yürütülmüştür.
19
öğrencisi
yarı
yapılandırılmış
mülakatlar
yapılmıştır.
Elde
edilen
veriler,
Colaizzi'nin
7
aşamalı
yöntemi
kullanılarak
analiz
edilmiştir.
Araştırma
planı,
COREQ
kriterleri
esas
alınarak
Analiz
sonucunda
üç
ana
tema
ortaya
çıkmıştır:
1.
Zekaya
Yönelik
Algılar
İkilemler,
2.
Beklentiler
3.
Endişeler.
sonuçlarına
göre,
öğrencilerin
genel
zekâ
olumlu
algıya
sahip
oldukları,
farklı
beklentilerinin
olduğu
ancak
aynı
zamanda
bazı
etik
mahremiyet
endişeleri
taşıdıkları
görülmüştür.
zekanın
nasıl
algılandığına
dair
derinlemesine
anlayış
sağlamış
gelecekteki
eğitim
uygulama
alanlarında
rehberlik
sağlayabilecek
önemli
bulgular
sunmuştur.
kullanımının
hemşireliğindeki
endişeleriyle
birlikte
ele
alınması
nedenle,
eğitiminde
kurallarının
vurgulanması
öğrencilere
bilinçli
şekilde
yaklaşımı
teşvik
etmek
gerekmektedir.
Promoting Emotional Well-Being in Older Adults
Advances in human and social aspects of technology book series,
Journal Year:
2024,
Volume and Issue:
unknown, P. 137 - 166
Published: Oct. 18, 2024
As
the
global
population
ages,
ensuring
emotional
well-being
of
older
adults
is
a
critical
aspect
healthcare
systems.
Emotional
deeply
intertwined
with
physical
and
mental
health,
particularly
in
facing
complex
health
challenges
such
as
falls,
nutritional
deficiencies,
chronic
conditions
like
cancer
kidney
disease
(CKD),
concerns
loneliness.
In
this
chapter,
we
explore
how
artificial
intelligence
(AI)
can
enhance
by
promoting
(EI)
improving
outcomes
for
adults.
The
discussion
integrates
key
aspects
including
falls
prevention,
nutrition,
hydration,
vitamin
B12
deficiency,
ageing
place,
loneliness,
care,
pharmacokinetics,
moving
handling.
We
examine
transformative
potential
AI
technologies
addressing
these
issues,
offering
real-time
personalized
care
interventions.
By
incorporating
into
elder
create
holistic
systems
that
support
emotional,
mental,
health.
Language: Английский
Dini Bağlamda Robot Kullanımı: Budist Robot Rahip Mindar Örneği Üzerinden Tutumların Niteliksel Analizi
Dinbilimleri Akademik Araştırma Dergisi,
Journal Year:
2024,
Volume and Issue:
unknown
Published: Dec. 19, 2024
Farklı
inançlar
ekseninde
geliştirilen
çeşitli
dini
sosyal
robot
örnekleri
bulunmakta,
bu
robotlara
yönelik
tutumlar
kullanıldıkları
toplumun
inanç
ve
kültüründen
etkilenmektedir.
Çarpıcı
örneklerden
birisi
Budist
Robot
Rahip
Mindar’dır.
Bu
çalışmada
Mindar’ı
ele
alan
üç
farklı
haber
videosuna
Türkçe,
İngilizce
Japonca
yapılan
yorumların
niteliksel
desende
doküman
analizi
tekniğiyle
karşı
analiz
edilmesi
amaçlanmıştır.
Çalışma
sonucunda
olumlu
olumsuz
tutumlar,
kaygı
hayranlık
duyguları,
din
maneviyatın
dönüşümüne
dair
içerikler
tespit
edilmiştir.
Türkçe
yorumlarda
mevcut
hizmetlerine
duyulan
memnuniyetsizlik
üzerinden
tutum
sergilenmesi
ayırt
edici
bulgulardandır.
Animist
değerlendirme
kendisini
gösterip
İngilizcede
değildir.
İnsan
merkezci
düşünmeye
ise
dilde
ağırlıklarla
olsa
da
rastlanmıştır.
Sosyal
robotlar
günlük
hayat
işleyişinde
daha
fazla
görünür
olmaya
başladıkça
robotiğe
tutumların
farklılaşması
olasıdır.