AI is increasingly being used to identify emotions – here’s what’s at stake

Artificial Intelligence is Misreading Human Emotion

Emotion Recognition TecGde3h Can Be Used For Good and For Bad

Her previous experience with losing a job helped her be empathetic with the laid-off employees. 

You should be more empathetic towards her because she just lost her cat. 

AI can personalize education for each student, increasing the education standard.

He gave her a personalized gift with her favorite color and chocolate. 

In your own words, please briefly summarize the article.

Why did you choose this topic for today’s class discussion?

What are some uses of AI technology that you are familiar with?

Have you ever heard of emotion recognition technology?

Do you think it is ethical to use this technology in professional settings?

Do you think it is ethical to use this technology for airport security?

Do you think it is ethical to use this technology in educational settings?

What are other potential uses of this technology not mentioned in the material?

If you have a question or questions that you'd like to discuss during your class, please write them down.

Emotion Recognition Technology (ERT)

AI Knows How You’re Feeling

감정 인식 기술(ERT)

We’ve all been there before — you’re in a job interview. You’re nervous, hoping that your interviewer thinks you’re a good fit. Now, what if, while you were barely managing to find the right words for each answer, an Artificial Intelligence (AI) system was scanning your face and scoring you based on how nervous, empathetic [1], or dependable you seem. This may seem like something straight out of science fiction, but it exists and is on the rise! Currently, the Emotion Recognition Technology (ERT) business is a multi-billion dollar industry that utilizes AI, specifically machine learning algorithms, that predict emotions from facial expressions. Companies and organizations across the world have adopted ERT. In the US, many advertising companies have used this technology to study the emotional impact of their ads.  On the other side of the globe, in Hong Kong, a high school named True Light College has integrated the AI software 4 Little Trees to analyze their students’ engagement levels in the class. The purpose was to make learning “more interactive and personalized [2].” The software detects movements in their students' faces and identifies emotions from its database. When the system believes that a student is not focusing; when it detects something like extreme boredom, perhaps, it alerts them to pay attention. At the end of the class, a detailed report is generated for the teacher about each student’s emotional state throughout the session.  The use of 4 Little Trees may seem a bit cruel in that it reduces the expressions of malleable adolescents into simple formulas. This impression corroborates the criticism ERT has faced over the years. One line of contention is that the technology is not sophisticated enough. ERT assumes a recurring pattern in the way everyone displays their emotions. However, the relationship between facial expression and emotion is more complex than that. In reality, one configuration of muscular movements doesn’t mean one type of emotion. Joy, for example, can come through in different ways, and strikingly so, depending on the specific situation and cultural context. Another common concern is that ERT technology can be racially biased. Studies have shown that when analyzing faces, the technology tends to fail at accurately identifying emotions on darker-skinned faces compared to lighter-skinned faces — which can have consequences in situations like job interviews and security checks.  At the same time, ERT has promising economic implications. For one thing, managers at startup companies, which are usually strained by lack of resources, can more efficiently make hiring decisions. Airport security can also benefit from this technology by identifying dangerous, but seemingly harmless individuals. Companies can gauge customer reactions to their new products and tweak them to help perfect their products for their target audience. On an academic level, ERT can help researchers distinguish between what the subjects report to feel and what they actually feel.  ERT has a long way to go for perfection and for ubiquitous application. But the potential benefits are too salient to be simply ignored. In thinking about the future of ERT, we should remind ourselves that anything we make will be flawed in some ways and that the best outcome tends to be born out of the process of fixing errors.

우리는 모두 이런 경험을 해본 적 있습니다 - 당신은 지금 취직을 위해 면접중입니다. 당신은 면접관이 당신을 적합한 사람이라고 생각하길 바라면서 긴장한 상태입니다. 질문에 적절한 말을 찾으면서 겨우겨우 답해가고 있는 동안 만약 인공지능 시스템이 당신의 얼굴을 스캔하며 당신의 긴장 정도, 공감성, 신뢰성에 대한 점수를 매기고 있다면 어떨까요? 공상과학 소설에서나 볼 수 있는 얘기 같지만 이것은 이미 존재할 뿐 아니라 점차 그 사용이 증가하고 있습니다! 현재 감정인식기술(ERT) 사업은 AI 특히 머신러닝 알고리즘을 활용해 얼굴 표정에서 감정을 예측하는, 수십억 달러 규모의 산업입니다. 세계 여러 나라의 기업과 단체들이 ERT를 사용하고 있습니다. 미국의 많은 광고 회사들은 이 기술을 이용해서 자기들의 광고가 미치는 감정적인 영향을 연구하고 있습니다.  지구 반대편, 홍콩에 있는 트루 라이트 칼리지라는 한 고등학교는 인공지능 소프트웨어인 “4 리틀 트리”를 사용하여 학생들의 수업 참여도를 분석하고 있습니다. 이런 기술을 사용하는 목적은 “상호작용을 더 많이 하면서도 개개인의 필요성에 맞춘 학습”을 위해서였습니다. 이 소프트웨어는 학생들의 얼굴의 움직임을 감지해서 데이터베이스에서 찾은 감정과 비교, 식별합니다. 시스템이 학생이 집중하지 않고 있다고 판별할 때 혹은 극심한 지루함과 같은 것을 감지할 때, 학생에게 주의를 기울이라고 경고합니다. 수업이 끝나면 그 수업 동안 각 학생의 감정 상태를 기록한 상세한 보고서가 자동으로 만들어져 선생님께 전달됩니다.  4 리틀 트리를 사용하는 것은 변화무쌍한 청소년들의 얼굴 표정을 간단한 공식으로 치환한다는 점에서 비인간적인 것으로 보일 수 있습니다. 이러한 생각은 ERT가 수년간 계속 받아온 비판을 뒷받침합니다. 그 주장은 한마디로 기술이 충분히 정교하지 못하다는 것입니다. ERT는 모든 사람의 감정 표현 방식에 반복적인 패턴이 있다고 가정합니다. 하지만 얼굴 표정과 감정 사이의 관계는 그보다 더 복잡합니다. 실제로 일련의 근육 움직임이 딱 한 가지의 감정을 의미하지 않습니다. 예를 들어, 기쁨은 구체적인 상황과 문화적 맥락에 따라 놀랍도록 다른 방식으로 얼굴에 표현될 수 있습니다. 또 우려할 점은 ERT 기술이 인종 편향적일 수 있다는 것입니다. 연구에 따르면 ERT기술이 얼굴을 분석할 때, 밝은 피부색의 얼굴에 비해 어두운 피부색의 얼굴에 나타난 감정을 식별할 때 정확도가 많이 떨어지는 경향이 있다고 합니다. 이것은 취업을 위한 면접이나 보안 검사 같은 상황에서 중대한 결과를 초래할 수 있습니다. 하지만 동시에 ERT는 경제적 가치면에서 아주 유망합니다. 예를 들면, 대개 부족한 자원으로 부담을 겪고 있는 스타트업 회사의 매니저들은 더 효율적으로 채용 결정을 내릴 수 있습니다. 공항 보안은 이런 기술을 이용해서 외관상으로는 전혀 해를 끼치지 않을 것 같이 보이지만 위험한 인물들을 색출할 수 있습니다. 기업은 신제품에 대한 고객의 반응을 측정해서 그들이 목표로 삼는 고객에게 맞도록 제품을 수정 보완할 수 있습니다. 학계쪽에서 보면 ERT는 피실험자들이 스스로 보고한 느낌과 그들의 실제 느낌을 구분해냄으로써 연구자들에게 도움을 줄 수 있습니다.  ERT 기술이 완벽해지고 더 많은 분야에서 활용되기까지 아직 갈 길이 멉니다. 그러나 그 잠재적인 혜택은 아주 크기 때문에 그냥 무시해버릴 수 없습니다. ERT의 미래를 생각하면서 우리가 다시 상기해야 할 것은 우리가 만드는 모든 것은 어떤 식으로든 결점이 있을 수밖에 없고 그 오류를 고쳐가는 과정에서 최고의 결과물이 나온다는 점입니다.