'안전한 AI' 경쟁 본격화…IBM도 '그래니트 가디언' 가세

IBM이 안전성을 강화한 새로운 인공지능(AI) 모델을 출시했다. 기업들의 AI 도입이 확대되면서 주요 빅테크가 보안과 신뢰성에 방점을 둔 AI 모델을 잇달아 선보이는 모습이다.  IBM,“AI 모델로 윤리·보안 위험 탐지&rd...

2024.10.22 16:45

IBM 부사장 "AI 안전성과 윤리가 기업 성공의 열쇠"

“안전성과 책임, 윤리의 측면에서 사용자에게 신뢰를 얻는 기업의 인공지능(AI) 기술만이 시장에서 살아남을 수 있을 것입니다.”크리스티나 몽고메리 IBM 부사장 겸 최고 개인정보보호 및 신뢰 책임자(CPTO)는 23일 서울 여의도 한국IBM 본사에...

2024.05.23 15:43

'인간성'을 학습한 AI가 물었다…"인간이란 무엇인가?"

인간에게 인공지능(AI)의 등장은 두려운 일이다. 결점 없는 AI의 모습이, 결점투성이인 인간과 극명하게 대비되기 때문이다. 인간이 AI 앞에서 느끼는 자괴감과 무력감은 공상과학(SF) 영화에 등장하는 AI 악당 캐릭터를 통해 드러난다. ‘아이, 로봇&rsq...

2024.01.26 17:49

"데이터 편식하며 성장한 AI, 객관적 판단 기대하기엔 곤란…비판적 사고 가져야"

오픈AI의 챗GPT는 출시 2개월 만에 월 이용자 1억 명을 돌파하며 세계적인 관심을 모았다. 인간처럼 스스로 무언가를 만들어내는 생성형 인공지능(AI)의 위력에 찬사가 쏟아졌다. 의심의 눈초리도 생겨났다. AI가 만든 가짜 사진에 증시가 출렁거리는 일이 벌어지면서 A...

2024.01.15 18:15

AI를 위한 ESG, ESG를 위한 AI

[한경ESG] 2024 ESG 철저 예측 - AI 윤리기업의 ESG(환경·사회·지배구조) 경영에서 인공지능(AI)의 중요성이 커지고 있다. ESG와 관련한 목표를 달성하기 위해 무엇을 해야 하고 어떻게 성과를 측정해야 하는지, AI가 답을 제공...

2024.01.05 09:15

축출 5일만에 오픈AI에 복귀한 샘 올트먼…향후 행로는?

샘 올트먼이 축출된지 5일만에 오픈AI 로 복귀하기로 해 5일에 걸친 오픈AI 드라마가 일단락됐다. 이를 계기로 인공지능(AI) 업계는 AI의 윤리성과 상업화 사이의 조화, 윤리성에 대한 감독 및 규제 문제 등이 더욱 중요한 관심사로 부가됐다. 로이터 등 외신들에 따르...

2023.11.22 19:24

"AI의 대답, 사람이 미리 일러준 걸까?" 판별 방법은 [이상은의 IT 산책]

오픈AI의 생성형 인공지능(AI) '챗GPT'가 큰 관심을 받으면서 앞서 나왔던 AI 챗봇 모델들도 새롭게 조명받고 있다. 챗GPT만큼 자연스럽거나 우수하지는 않았지만, 앞서 나왔던 여러 AI 챗봇도 처음에는 감탄을 자아내며 이목을 끌었다. 하지만 상당수...

2023.02.06 17:52

"학습 따라 AI가 편견 가질 수도…면접 활용 신중히"

“인공지능(AI) 알고리즘은 위험성을 내포하고 있습니다. 데이터를 어떻게 학습하는가에 따라 편견이나 편향이 생기게 됩니다. 사람의 건강이나 생계에 영향을 줄 수 있는 AI는 사용을 금지하거나 정밀하게 규제해야 합니다.”세스 도브린 IBM 최고AI책...

2022.06.13 15:15

구글 'AI 윤리' 다룰 인력 두 배 늘린다

세계 최대 검색업체인 구글이 인공지능(AI)의 윤리문제를 연구하는 조직의 규모를 현재의 두 배로 키우기로 했다. 월스트리트저널(WSJ)은 매리언 크로크 구글 엔지니어링담당 부사장이 WSJ 주최 행사인 ‘모든 것의 미래’에서 이런 방침을 밝혔다고 11일(현지시간) 보도했다. 구글에서 AI의 윤리적 책임 문제를 담당하는 연구진은 200명인...

2021.05.12 18:26

구글, AI 윤리 연구원 400명까지 늘린다…"브랜드 중대 손상"

구글이 인공지능(AI) 기술 개발에 발맞춰 윤리 문제에 대한 연구를 강화하기로 했다.월스트리트저널(WSJ)은 11일(현지시간) 매리언 크로크 구글 엔지니어링 담당 부사장이 WSJ 주최 행사에서 AI 윤리 담당 연구진 규모를 두 배로 늘리겠다는 방침을 밝혔다고 보도했다.AI 윤리란 인공지능이 윤리적으로 활용되고 인간과 공존할 수 있도록 개발·운용...

2021.05.12 07:43

엔씨, AI 윤리 개선 팔 걷어 붙였다…'AI 프레임워크' 공개

엔씨소프트는 인공지능(AI) 시대 리더십과 윤리 개선에 관한 연중기획 대담 'AI 프레임워크' 시리즈를 30일 공식 유튜브와 블로그에서 공개했다. 엔씨소프트에 따르면 AI 프레임워크는 회사가 ESG(환경·사회·지배구조) 경영 핵심...

2021.04.30 11:29

인간 존엄성·사회 공공선·기술 합목적성…'AI 윤리기준 3대 원칙' 공개

정부가 바람직한 인공지능(AI) 개발·활용 방향을 제시한 'AI 윤리 기준안'을 공개했다. 27일 과학기술정보통신부와 정보통신정책연구원은 정부·공공기관, 기업, 이용자 등 모든 사회구성원이 함께 지켜야 할 주요 원칙과 핵심 요건을...

2020.11.27 13:15

"인간성을 위한 인공지능"…국가 AI 윤리기준 나왔다

정부가 인공지능(AI)은 인간의 존엄성과 사회의 공공성을 우선시해야 한다는 내용의 윤리기준을 만들었다. 과학기술정보통신부와 정보통신정책연구원은 27일 이같은 내용의 '국가 AI 윤리기준'을 발표했다. 국가 AI 윤리기준은 인간성을 목표로 3대 기본원칙과 ...

2020.11.27 12:36