3. 第三者による表情評価実験
まず,20名の被験者の表情を第三者がどのように判断・評価するかを調べるために表情評価実験を実施した。実験の手順は,以下の通りである。
(1)表情表出実験7)で得られた6基本感情に「平静」時の表情と「うつろ」や「だるい」等のその他の表情を加えた8種類の表情画像(サイズ:横40mm×縦55mm; グレースケール)を用意して,A4用紙(横)にランダムな順序で配置する。
(2)実験参加者は,これら8種類の表情が6基本感情のいずれであるかを判断し,アンケート用紙に書かれた感情(「幸福」,「驚き」,「恐怖」,「怒り」,「嫌悪」,「悲しみ」)のひとつに○をつける。
(3)20名分の表情画像延べ160枚の表情について前述の評価を行う。
この表情評価実験には,年齢・性別を問わず43名の協力が得られた。提示された表情には6基本感情以外の表情も含まれるため,判別は容易ではないことが予想されるが,「わからない」という選択肢を加えると「わからない」という評価が多くなってしまうので,これを避けるため6基本感情に判別してもらうこととした。
そして,個々の表情画像に対して,43名の実験参加者のうちその感情であると判別した人数の割合を感情度と定義し,これを第三者による表情の評価値とした。例えば,ある表情を全員が「幸福」と判別すれば,その表情の「幸福度」は1.0となり,「驚き度」,「恐怖度」,「怒り度」,「嫌悪度」,「悲しみ度」はいずれも0.0となる。つまり,大勢の実験参加者(評価者)による評価が分かれるものは,その基本感情であるという確信が低くなるということで「わからない」と判断される表情の評価値が小さくなるようにした。
4. 表情評価モデルの構築
基本感情を表出した表情を第三者がどのように評価するかをモデル化する場合,評価項目の選定が重要な要因となる。表情の評価には左右の眼と口の形状が大きな役割を果たしている5)ことから,本研究では,左右の眼の形状の平均値と左右差および口の形状の三つとした。これらを選んだ理由は,第三者が他人の顔の表情から心理状態を推定・判断する場合,表情要素の形状の細かな変化を見ているわけではなく,大まかな眼の形状や開き具合,そして眼の形状の左右差,口の形状を見ていると判断したことによる。提案する表情評価モデルの概念図をFig. 3に示す。
Fig. 3 |
Schematic diagram of the facial expression evaluating model. |
さて,この表情評価モデルでは,どの評価項目が重要視されているかを考慮したモデルとするために,重視度(寄与度)をファジィ測度で表現する。このとき,ファジィ積分によって求められる総合評価値は,6つの基本感情の度合いであることから,個別評価値も基本感情の度合いを表すものである必要がある。そこで,左右の眼の各フーリエ記述子ak,bkの個々の平均値(EA),左右の眼の各フーリエ記述子ak,bkの差(右眼−左眼;ED),口のフーリエ記述子(M)が単独で基本感情の度合いを表現できるように個別評価値を求めることにする。
まず,第三者評価による感情の度合いを目的変数として,EA,ED,Mのそれぞれのak,bk(k=1〜20)の計40項を説明変数とする重回帰式を基本感情ごとに求める。そして,この重回帰式にそれぞれの表情のEAやED,Mのフーリエ記述子を代入して得られた値をその評価項目の個別評価値とする。ただし,感情の度合いを表す個別評価値が負になることはないので,重回帰式によって得られた個別評価値が負となる場合は0とした。
そして,これらの個別評価値に個々の重視度を考慮してファジィ積分したものが表情全体が表す総合評価値となるので,非線形数理計画法の2次計画法8)を用いてファジィ測度を同定する。得られたファジィ測度をTables 1-6に示す。表の見方は,網掛けをした対角線上の数値は評価項目単独による重要度で,右上三角形内の数値は対応する二つの評価項目を同時に評価した場合の重要度を表し,Total欄の値は三つの評価項目すべてを同時に評価したときの重要度である。また,σは,ファジィ積分による総合評価値と表情評価実験で得られた結果との自乗平均誤差である。
Table 1 |
Fuzzy measures as an index of contribution for happiness. |
|
Mouth |
(R eye + L eye) /2 |
R eye - L eye |
Mouth |
0.283 |
0.738 |
0.416 |
(R eye + L eye) /2 |
- |
0.000 |
0.000 |
R eye - L eye |
- |
- |
0.000 |
Total |
1.756 |
|
表より,「幸福」には単独では口が重要視されているものの,眼の平均値や左右差は全く影響しないことがわかる。そして,口と眼の平均値または眼の左右差が複合的に寄与し,表情全体で「幸福」であることに結びついている。「驚き」では,口単独の場合および口と眼の左右差の複合的な影響が大きいことがわかる。また,「悲しみ」では,口の寄与は小さく,両眼の平均値,左右差の影響が大きいことがわかる。
Table 2 |
Fuzzy measures as an index of contribution for surprise. |
|
Mouth |
(R eye + L eye) /2 |
R eye - L eye |
Mouth |
0.344 |
0.344 |
0.520 |
(R eye + L eye) /2 |
- |
0.049 |
0.312 |
R eye - L eye |
- |
- |
0.000 |
Total |
1.636 |
|
Table 3 |
Fuzzy measures as an index of contribution for fear. |
|
Mouth |
(R eye + L eye) /2 |
R eye - L eye |
Mouth |
0.227 |
0.282 |
0.227 |
(R eye + L eye) /2 |
- |
0.000 |
0.387 |
R eye - L eye |
- |
- |
0.187 |
Total |
1.471 |
|
Table 4 |
Fuzzy measures as an index of contribution for anger. |
|
Mouth |
(R eye + L eye) /2 |
R eye - L eye |
Mouth |
0.248 |
0.360 |
0.332 |
(R eye + L eye) /2 |
- |
0.032 |
0.150 |
R eye - L eye |
- |
- |
0.150 |
Total |
1.376 |
|
Table 5 |
Fuzzy measures as an index of contribution for dsgust. |
|
Mouth |
(R eye + L eye) /2 |
R eye - L eye |
Mouth |
0.000 |
0.380 |
0.158 |
(R eye + L eye) /2 |
- |
0.079 |
0.079 |
R eye - L eye |
- |
- |
0.000 |
Total |
1.638 |
|
Table 6 |
Fuzzy measures as an index of contribution for sadness. |
|
Mouth |
(R eye + L eye) /2 |
R eye - L eye |
Mouth |
0.000 |
0.550 |
0.273 |
(R eye + L eye) /2 |
- |
0.328 |
0.667 |
R eye - L eye |
- |
- |
0.203 |
Total |
1.337 |
|
このように,ファジィ測度を導入した表情評価モデルでは,評価項目単独の重視度および複合的な重視度を定量的に表現することが可能となることを明らかにした。
5. 表情評価モデルの検証
構築した表情評価モデルの妥当性を確認するために,表情評価モデルの構築に用いた被験者以外の6名の被験者の表情を第三者がどのように評価するかの表情評価実験を行った。実験は第3章で述べた手順に従って実施された。この検証のための実験には,性別年齢を問わず48名の協力を得ることができた。
評価実験結果の一例をTable 7に示す。表は,それぞれの表情に対して48名の評価者がどのように評価したかの割合を示している。この例では,この被験者#1の幸福の表情を45名(93.8%)の被験者が「幸福」であると判断し,「驚き」,「嫌悪」,「悲しみ」であると評価した評価者が1名(2.1%)ずついたことを表している。また,最も評価率の高かったものを太字で示し,表出した感情と評価が一致する正解部分を網掛けとした。
Table 7 |
An example of evaluation result from questionnaire survey. |
Subject
#1 |
Questionnaire Survey |
HAP |
SUR |
FEA |
ANG |
DIS |
SAD |
Emotion |
HAP |
0.94 |
0.02 |
0.00 |
0.00 |
0.02 |
0.02 |
SUR |
0.00 |
0.73 |
0.04 |
0.08 |
0.15 |
0.00 |
FEA |
0.02 |
0.09 |
0.11 |
0.11 |
0.30 |
0.38 |
ANG |
0.00 |
0.63 |
0.10 |
0.04 |
0.19 |
0.04 |
DIS |
0.02 |
0.02 |
0.08 |
0.10 |
0.38 |
0.40 |
SAD |
0.02 |
0.00 |
0.00 |
0.17 |
0.25 |
0.56 |
|
表より,「幸福」や「驚き」,「悲しみ」では,評価者によって正しく感情が判定されており,一方,「恐怖」の表情は「悲しみ」と判断され,「怒り」は30名(62.5%)によって「驚き」と誤って評価されている。また,「嫌悪」は18名(37.5%)によって正しく評価されているものの,19名(39.6%)に「悲しみ」と判断されていることがわかる。
6名の被験者について纏めたものをTable 8に示す。表は,6名の被験者が表出した6基本感情を48名の評価者がどのように評価したかの正答率を表している。
Table 8 |
Rate of correction obtained from questionnaire survey. |
HAPPINESS |
1.000 (1.000) |
SURPRISE |
0.667 (0.833) |
FEAR |
0.000 (0.000) |
ANGER |
0.167 (0.167) |
DISGUST |
0.833 (1.000) |
SADNESS |
0.167 (0.333) |
|
表中の数値は,ある表情に対して48名の評価者によって最も高く評価・判定された感情とその表情を表出した被験者の感情が一致しているか否かの6名に対する割合を表しており,1.0という値は必ずしも48名全員がその感情であると正解したことにはならないことに注意を要する。
また,Table 7の「嫌悪」の例では,最も多くの評価者によって「悲しみ」と評価されてはいるものの,「嫌悪」と正しく評価した被験者も多く,実質的には正しく評価されたものとして,±5%の誤差を許容した場合の正答率を括弧内に示した。
表より,「幸福」は100%の正答率で正しく評価されており,「驚き」や「嫌悪」も高い正答率が得られていることがわかる。一方,「恐怖」や「怒り」は正答率が低く,特に「恐怖」の表情は第三者から見て「恐怖」であると判断されることは極めて難しいことがわかる。これは,日本人が否定的感情の表情を認知するのが他の民族より苦手である9)という心理学分野における結果とも良く一致している。
次に,構築した表情評価モデルによる評価結果をTable 9に示す。表の見方は,Table 8と同一である。ただし,表情評価モデルによってファジィ積分された総合評価値の総和は必ずしも1.0とはならないので,括弧内の実質的な正解率を求める際は,最も高い感情評価値の±9.5%の誤差を許容した場合の正答率とした。
Table 9 |
Rate of correction obtained from the evaluation model. |
HAPPINESS |
0.333 (0.333) |
SURPRISE |
0.500 (0.833) |
FEAR |
0.000 (0.000) |
ANGER |
0.333 (0.333) |
DISGUST |
0.333 (0.333) |
SADNESS |
0.667 (0.833) |
|
表より,「幸福」では6名のうち2名を「幸福」であると正しく評価していることがわかる。Table 8に示したアンケート調査による評価結果が100%であるのに対して,低い判別率となっているが,これらの表情は口を開けて笑った表情となっているため人間は「幸福」であると容易に判断できるが,表情評価モデルの作成に用いた表情データにこのような表情がなかったためにモデルによって正しく判別できなかったと考えられる。また,「悲しみ」や「驚き」も50%以上の正答率で評価されているのに対して,「怒り」や「嫌悪」では正答率が低くなっている。「恐怖」の表情は,「恐怖」と評価されておらず,表情によって「悲しみ」や「驚き」,「怒り」などと評価されている。
以上より,構築した表情評価モデルによる評価結果は,第三者が表情を見て推定・評価したときの評価に比較的よく一致しており,妥当なものであると判断することができる。
6. 結言
本論文では,本研究の最終目標である表情による乗り心地,乗り物酔い発症の評価に向けて,基本感情を表出した表情を第三者が見てその感情を推定・評価するためのモデルの構築を試みた。モデルの作成に用いた表情データとは異なる6名の表情データに対してこの表情評価モデルによる評価を行った結果,人間の評価による結果と表情評価モデルによる評価結果は,比較的よく一致しており,提案した表情評価モデルの妥当性・有効性を確認することができた。
以上のように本論文では,これまで量的な表現が困難であった表情の解析にフーリエ記述子法を適用することによって形状の特徴表現を行い,基本感情を表出した表情を第三者がどのように評価するかを考慮した表情評衝モデルの構築を行い,表情評価実験を通してその妥当性・有効性を確かめている。
本論文で提案した手法は,乗り心地や乗り物酔いの発症の評価という工学的な問題解決にとどまらず,表情の認知などの心理学分野への応用も可能であり,ヒューマン・ファクター研究の進展に大きく貢献できるものと考えられる。
謝辞
本研究は,大阪府立大学名誉教授 細田龍介博士の指導で進められ,関西造船協会論文集に「表情による快適性の評価に関する研究(第1報〜第4報)」として掲載された研究成果に基づいている。本論文についても種々の有益なご助言をいただいた細田名誉教授に深く感謝申し上げる。
参考文献
1)C.T. Zahn and R. Z. Roskies: Fourier descriptors for plane closed curves, IEEE Trans. on Computers, Vol.C-21, pp.269-281, 1972.
2)p. Ekman, W.V. Friesen(工藤力訳): 表情分析入門, 誠信書房, 1987,
3)池田和外, 有馬正和, 細田龍介: 表情による快適性の評価に関する研究(第2報)―表情と心理状態の関連―, 関西造船協会論文集, 第242号, pp.155-160, 2004.
4)有馬正和, 太田直幸, 池田和外, 細田龍介: 表情による快適性の評価に関する研究(第3報)―乗り物酔い発症時の表情の特徴抽出―, 関西造船協会論文集, 第242号, pp.161-166, 2004.
5)池田和外, 有馬正和, 細田龍介: 表情による快適性の評価に関する研究(第4報)―表情の特徴抽出による基本感情の評価―, 関西造船協会論文集, 第243号, pp.153-157, 2005.
6〉例えば, 室伏俊明, 菅野道夫: ファジィ測度論入門[VII], 日本ファジィ学会誌, Vol.4, No2, pp.244-255, 1992.
7)平井達之, 有馬正和, 細田龍介: 船舶の乗り心地評価に関する研究(第5報)―表情による心理的変化の客観的計測・評価―, 日本造船学会論文集, No.187, pp.395-402, 2000.
8)例えば, 刀根薫: 2次計画法, BASIC, 培風館, pp.185-191, 1981.
9)レズリー・A・ゼブロウィッツ:顔を読む 顔学への招待, 大修館書店, 1999.
|