인공지능 성차별 논란

AI 관련 프로그래머가 데이터모델 제작할 때 남녀비율도 안 맞췄겠음?
여성단체에서 주장했다지만 말도 안 되는 소리임.
어떤 프로그래머가 요즘 AI는 딥러닝할 때 데이터모델이 중요한데 남녀비율도 안 맞추고 딥러닝을 돌림?

교사자료가 정상적이여도
가치망이 어떻게 발전되었느냐에 따라서
아웃풋은 예측과 다르게 흐를 수 있음

이글이랑 다른 느낌이면 호크같은 느낌인가요?
아핳핳ㅎ핳핳ㅎ하ㅏ

ㅇㅇ 그러니까, 난 여성단체의 주장이 틀렸다고 말하는 거야.
데이터모델에 남성임직원을 많이 입력했다는 건 말도 안 되는 주장이고, 그나마 가치망 발전이 평등사회 가치에 부합하지 않은쪽으로 발전했다는 게 팩트인데.
인간의 입김이 임의적으로 들어가지도 않았으니 오히려 지금으로서는 공평한 값이라고 생각함.
인간이 개입한다고 저것보다 공평한 가치망 발전이 가능한가?
프로그래머에 의해서 가치망 발전에 세세하게 개입이 가능할 거면 딥러닝이 이렇게 무안단물급으로 쓰이지도 않았지.

저건 레이블을 인간이 매긴거라 편향될수밖에 없지.
강화학습으로 하려면 기업이 몇개가 망해야 데이터가 생기는거냐;;

요즘 느끼는 거지만 텐서플로 같은거 써보면
가치망 발전 과정 역추적하는 것도 일임.. 알파고 쉑 창의력 개쩜

미국 이력서에서 편향된 값을 수정할 수 있을만큼의 정보가 제공된다고 생각하는 거임?
난 미국 이력서에서 편향된 값을 제공할만한 정보를 찾아내지 못하겠던데?

가치망 발전과정 역추적은 레알 헬급의 난이도라서 ㅇㅈ함

확! 마! 짜버릴까보다!

그 정보를 못찾으니까 편향이 나타나서 제대로 된 (공정한) 정답 못맞추는거지..
그러니까 망한 게 맞음. 그리고 가치망은 뭔 알파고 알파고 하니까 인공지능이 죄다 강화학습인줄아냐

최근 유럽에서 인공지능의 결과값에 대해서 의문을 제시하는 논문이 있어서 네 말이 이해는 가는데.
문제를 발견하지 못하고, 그것을 제시하지 못 했을 때 무작정 네 말을 신빙성 있는 말로 받는 건 힘듬.
네 말대로면 값이 문제라는 게 아니라.
공평에 어긋나는 편향적 값을 만들어냈다는 논리와 근거가 필요함.

당장에 같은 알고리즘을 대한민국 공무원이랑 교사 데이터에 넣으면 남자는 거르고 여자를 뽑으라고 한다는거임.
이것도 공정하다고 생각하면 할 말 없고..

벌쳐같은느낌이겠죠 하하하
벌로 저를 매우 쳐주세요

아마존이 서양세계에서 유럽 이력서, 미국 이력서 어느 쪽 이력서를 데이터모델로 삼았는지는 알 수 없지만.
성별이 포함이 안 된 이력서가 많아서 너의 말에 편차가 너무 크고 근거로 삼기에는 너무 예시가 추상적임.
만약 대한민국 공무원 데이터모델에 남녀 불포함시키고 서양식 이력서라면 데이터가 어떻게 나올지부터 확인해봐야 이야기가 이성적으로 진전될 수 있음.

신입사원 1명이 능숙해질때까지 버티는 비율 같은걸 봣겟지 ..
어찌됫건 초반에 일가르치는 한 3~6개월간의 과정도 회사가 감수해야하는 비효율중 하나니까
100%의 능력을 발휘할때까지 얼마나 버텨내고 그후에도 얼마나 오랫동안 꾸준히 일하러 나오나
이런것도 많이 반영됫을듯 직원 1명의 가성비를 컴퓨터는 계산햇을꺼라고봄
효율을 솔직히 두번쨰문제일듯 채용과정에선 컴퓨터가 그사람의 인성이나 분위기 언행 버릇 이런거 세세하게 볼 여유도없음 사실 그런 사람냄새 분위기 좋은인간이 꼭 일을 잘한다는 보장도없고

아니 걍 원래 인간이 성차별하던걸 그대로 답습한거임

회사에 이득이 되나안되나를 정확하게 판단할 수 있다고 확신이 들면 여자를 거르든 대머리를 거르든 무조건 믿고 썼을텐데, 인간이 매긴 점수를 바탕으로 하다보니까 오히려 인간이 성차별을 정말 한다는 게 드러나는 꼴이 돼서 버린거지.
지원서 내용에 다른거 다 똑같은데 여자라고 나오면 무조건 감점이라고 떠버리니..

요즘 세상이 회사에 이득이 되는지 아닌지만 따지기는 어려울 것 같지 않음?
인공지능이 여성에 대해 감점을 먹인 건, 그 이유와 추론 과정이 있을텐데
그걸 연구하고, 뜯어보고, 확인하기 전부터, 여성단체라는 곳에서 "여성혐오." 쌍수에 들고 무쌍 찍을 자세부터 잡으면
진실이 어떻고, 논리가 어떻고를 떠나서. 그냥 기분 맞춰주는 쪽으로 흘러가는거지.
아무리, 인간 사회의 문제 해결 시작점이 공감과 관심이라고 하지만. 문제 해결의 중간과 종착은 틀림없는 이성과 이해인데
인공지능이 웃을 줄을 몰라서 그렇지, 기계한테 혐오라는 걸 들이미는 시점을 이해할 능력을 주면 어처구니 없어할걸?

자세한 내용이 공개되지 않아서 알 수 없지만 야 이거 구리다 생각해서 버렸으니까 발표가 된거지.. 써봤는데 야 이거 개좋은데? 싶었으면 기업 입장에서 안 쓸 이유가 1도 없음.
여자가 정말로 더 적은임금을 받으면서 똑같이 성과가 나오면 기업이 미쳤다고 남자를 뽑나요? 의 인공지능 버전인거임..

인공지능 자체가 문제라기보다, 고효율의 결과를 내도. 그걸 사람들이 이해하느냐 못하느냐가 문제일까?

그래서 설명 가능한 인공지능 explainable AI 라는 키워드가 작년에 많이 떴음. AI가 올바른 근거에 기반해 판단했는지 데이터의 편향에 따른 잘못된 판단을 했는지 알아내는 것은 아직까지는 매우 풀기 어려운 문제임..

판별하는 기준이 처음에 인간 심사관이 준 데이터를 기반으로 기준을 잡았을테니....그럼 인간 심사관도 여성 면접자에 대해서는 부정적으로 봤다는거네.흠....

기사 내용엔 단순히 남성지원자가 압도적이라(it직종만 했데) 지속적인 학습중에 여성을 배제하게 됬다고 나오더라

흐음...

딥러닝 시스템의 오점인가...

납득이 안가는데...단순히 남자 지원자가 많다는 이유만은 아닌거 같기도 하고....기계가 감정이 있는것도 아니고 효율만 따질뿐인데 성차별을 할리가 없잖음.

애시당초 남성지원이 압도적으로 많은 분야 라면
그만큼 남성에게 적합한 일이라는 말인거 같은ㄷ?
다른 예를 들어 무거운 물건만 계속 들어야 하는 일이라면
인공지능이 남녀를 불문하고 힘쎈 사람만 고를 텐데 주로 남성이 힘이 좋아서 많이 뽑히고 이것이 쌓이다 보면 힘쎈 사람의 특징에 남자가 상시 포함 되게 발전 할거 같음
음

비추박는 ㅅㄲ들 뭐지
'진짜'들인가

각 케이스들 들여다보고 여자라고 감점한게 정당한 거 같으면(빠른퇴직이나 이직, 실제 인간이 다시 봐도 성과가 떨어짐 등등 같은 식으로 데이터에 나타났다면) 몰래 쓰기라도 했을텐데 그렇지 않았던거지

데이터 상으로도 "남자보다 효율이 떨어지니까 걍 여자는 폐기"라는게 기계가 본 평가라는거네.

인공지능에 대한 이상한 환상이 있는거같은데 아직 거기까지 발전도 못했고, 이런 일에서는 인간이 하는걸 개인차에 따른 편향 없이 잘 따라하는게 최선임.
인공지능이 이런 판단을 내린다는게 실제 현장에서 여자가 능력이 떨어진다는 뜻이 아니라 역으로 같은 조건임에도 여자라는 이유만으로 감점을 준 인간 관리자들이 있었다는 사실만 보여준다고.

?기계가 감정이 있는것도 아니고 극한의 효율만 추구할뿐인데 성차별을 습득한게 아니라 뭔가 다른게 있는거 같은데.....흠....

그럼 이건 시발 그냥 컨트롤 F해서 '여성' 단어만 골라낸거네 시발
뭔 인공지능이야 단어찾아내기지

여성과 관계되면 디버프 걸린다고 학습한게 아닐까 하고 생각해봄.
왜 여왕벌 현상도 있을 수 있고. 여성이 파벌싸움으로 인해 남성 그룹들이 능률 저하가 일어나면서 이걸 학습한 걸 수도 있지.
근데 반대로 버프 걸린 경우도 있지 안을까 생각하니 모르겠다.

이악물고 비추주는 벌레들ㅋㅋㅋㅋㅋ

?그게 데이터 상으로 검출이 된다고?

뭐긴 뭐야 그 사상에 감염된 럭키 벌레들이지

이게 정답인듯

극한의 효율을 추구하게 위해서 걍 업계에 많은 성별을 골라내는 방법을 최적화 했다는점에서 실패이기도 하지....

바보야 남성이 많아서 적은 여성은 걍 안뽑아야지가 되버린거잖아...

?논리가 전혀 앞뒤가 안 맞는데....
남성 지원자가 많은거랑 여성이 아예 안 뽑힌게 뭔 상관임?

흠...그럼 차라리 성별란을 지워버리면 문제 해결이지 않나...?

흠....근데 인공지능 입장에서는 무조건적으로 실용성만을 따지다보니 어찌보자면 그런식으로 걸러내는게 더 "실용성이 높다"라는건가?

편향시키지 않으려고 하는데, 편향이 발생한다는 건.
이미 결과 자체에 편향이 있기 때문은 아닐까?
기계가 자아를 가지고 있는 것도 아니고, 편향 시키고자 하는 의지를 가지고 자가 작동하는 것도 아닌데
그럼, 관리자의 개입이나. 상황 자체가 편향되어있을 가능성도 고려해봐야하는게 아닌가 싶은데

정확하게는 AI의 꼼수의 문제는 유명했음.
그런데 그 꼼수가 결과론적인 효율로서 '기업에게 이득'을 줄 확률을 높인다면? 가 핵심인 거지.
대기업 입장에서는 여론도 있으니 저 모델 그대로 가지고 가는 건 손해라서 폐기한 거고.
중소기업 입장에서는 쓸만한 모델임.
외향성, 친화성, 집중도, 업무지식 등을 평가하고 더 나은 직원을 뽑을 확률을 높일 수 있거든.
꼼수로 편향된거라고도 볼 수 있지만, 꼼수가 확률을 높여주는 것도 사실임.

개발목적하고 관련이 적은 실용성을 인공지능이 찾은거지.
영역 종사자중에 남자가 많으니 여성을 일단 빼고 시작하는건 인공지능 개발목적에선 엄청 이탈한거지만, 누군가를 떨어트리는 일엔 실제 해당지원자가 가지고 있을 역량을 추론하는것보다 손쉬운방법이라 실용적이니까.....

결과론적 이득이 발생할 확률을 높이는지가 불명확하잖아.
꼼수는 뭔가의 확률을 올리긴 할테지만, 그게 기업에 이득이 되는가는 전혀다른이야기지.
유사난수 무작위추출같은게 투입비용대비 이익은 더 높을 가능성이 있다구....