OpenAI

미국의 비영리 단체. 인공지능을 개발하며 안전한 AGI 개발을 추구한다. 대형 언어 모델 (LLM)과 이를 기반으로 하는 ChatGPT 등의 소프트웨어를 제공한다.

2015년 샘 올트먼, 그렉 브록만, 일론 머스크가 폐쇄형 인공지능의 대표주자인 구글에 대항하기 위하여 아이디어를 구체화하고 비영리로 사업을 시작했다.[7][8]

초기 올트먼은 Y Combinator 공동 창업자인 제시카 리빙스턴과 YC Reseach의 기부 서명을 이끌어냈다. 머스크도 상당한 금액[9]을 출자했으며, 연줄로 페이팔 마피아 출신의 리드 호프먼과 피터 틸의 기부 서명을 이끌어냈다. 그 외 아마존 웹 서비스, 인포시스 등이 출자하여 OpenAI 설립 당시 모금에 서명한 기부금은 도합 10억 달러에 달했다고 한다.# 이렇게 2015년 비영리 단체로 시작했다.[10] 한편 머스크와 올트먼은 본업이 있었기 때문에 이들이 연줄을 통해 외연 확장을 노리는 동안 브록만이 풀타임으로 근무하며 일리야 수츠케버와 다리오 아모데이, 안드레 카파시 등 초창기 핵심 멤버에 해당되는 인공지능 분야 전문가 채용 및 전반적인 사내운영을 담당했다.

2018년 2월 Jed McCaleb, 게이브 뉴웰, 리드 호프먼, Michael Seibel, Jaan Tallinn, Ashton Eaton, Brianne Theisen-Eaton 등의 개인 투자가들이 신규 기부를 약속했다.# 반면 일론 머스크는 이사회에서 사임했다.[11][12]

2019년 샘 올트먼이 Y Cominator에서 퇴사한 뒤 전업으로 OpenAI에 집중하게 되었으며, 3월 외부 투자자로부터 최대 100배 수준으로 제한된 수익률을 조건으로 투자를 받으며, 산하에 영리 법인을 신설했다고 밝히며 본격적인 전환에 나섰다.# 막대한 클라우드 컴퓨팅 사용료 감당과 새로운 인재 영입을 위해 불가피했던 선택이었다고 한다.[13][14]

2019년 7월 마이크로소프트가 펀딩 라운드에 10억 달러를 투자했다고 밝혔다. 계약의 일환으로 Microsoft Azure의 컴퓨팅 환경을 제공받았으며, Azure AI라는 슈퍼컴퓨터를 공동으로 개발할 예정이라고 한다.# 알렉 래드퍼드를 비롯하여 다리오 아모데이와 일리야 수츠케버 등의 핵심 연구원이 공동저자로 등장한 논문이 가능성을 보여주며 투자 유치에 큰 역할을 한 것으로 알려져 있다.

2021과 2023년에는 마이크로소프트로부터 각각 20억 달러와 100억 달러 규모의 추가 투자를 받았다. 이를 통해 마이크로소프트는 GPT-4를 비롯하여 지적재산권 라이센스와 기타 제품 상용화 독점계약을 얻었다.[15] 세 번의 투자를 통해 마이크로소프트는 OpenAI LLC의 지분 49%를 확보했으나, 사측에서 영향력 행사를 방지하기 위해 이사회에 마이크로소프트 측 인사를 채워 넣을 수 없으며 의결권도 부여하지 않았다. 또한 투자 원금의 약 100배가 될 때까지 OpenAI LLC의 수익의 75%를 배분받지만[16], OpenAI Inc.의 이사회가 AGI에 도래했다고 판단할 경우 해당 분야에서는 상용화 계약의 효력이 먹히지 않는다. 이로 인해 높은 지분을 보유하고 있음에도 자회사 혹은 관계회사로 분류하기 힘들다.[17]

2023년 4월 세콰이어캐피탈, 앤드리슨 호로위츠 등의 투자자로부터 최대 290억 달러 기업가치를 평가받으며 3억 달러를 조달했다는 소식이 알려졌다.# 앞선 마이크로소프트의 투자와는 별개의 펀딩이다.

2023년 6월 16일부터 MBUX 인포테인먼트 시스템이 탑재된 메르세데스-벤츠 차량에서 ChatGPT베타 서비스가 시작된다. 우선 미국 한정이며, Azure를 통해 벤츠 보이스 컨트롤과 결합될 예정이다. GM과의 협업 루머도 있다.

2024년 1월 6일 마이크로소프트의 기술, 연구협업, 운영 부문 부사장인 디 템플턴이 투표권 없는 참관인으로 OpenAI 이사진에 합류했다는 소식이 전해졌다.#

2024년 2월 800억 달러의 기업가치를 평가받으며 자금을 조달했다는 소식이 알려졌다.# 바이트댄스와 스페이스X에 이어서 평가액 기준 3위 수준의 유니콘 기업이 되었다.

3월 8일 올트먼을 비롯해서 네 명의 새로운 이사를 선임했다.#

2024년 5월 15일부로 수석과학자인 일리야 수츠케버가 OpenAI 퇴사를 알렸다.# 후임으로는 제이컵 파호츠키 (Jakub Pachocki)가 지명되었다.

2024년 6월 10일 WWDC24에서 Siri의 ChatGPT 전환 기능 지원이 알려지며 Apple과의 협업이 알려졌으며, 자사 블로그를 통해 넥스트도어 전직 CEO인 세라 프라이어와 트위터 수석부사장 출신의 케빈 웨일을 각각 CFO와 CPO로 임명했다는 소식도 알렸다.#

2024년 7월 10일, 마이크로소프트와 애플 둘 다 이사회 참관인 자격을 포기했다는 보도가 나왔다.[18] 규제 당국의 빅테크 반독점법 조사를 우려한 조치인 것으로 보인다.

2024년 9월 25일 미라 무라티 CTO의 퇴사 발표 이후 CRO인 밥 맥그루, 부사장인 베럿 조프 등의 핵심 인력이 줄줄이 퇴사하며 지난 5월 수츠케버 퇴사 당시에 이어 2차 엑소더스가 발생했다.

2024년 10월 2일 1,570억 달러 기업가치를 평가받으며 66억 달러를 조달했다는 소식을 알렸다.# 스라이브와 마이크로소프트가 각 10억 달러 내외를 투자하며 라운드를 주했고, 지금까지 OpenAI의 누적 펀딩 금액은 179억 달러에 이른다. 다만 해당 펀딩은 2년 내에 비영리 이사회의 통제에서 벗어나 영리 기업으로 구조를 변경하고 투자자의 수익률 상한선을 없애는 조건이 이행되지 않을 경우 자금을 회수하거나 기업가치를 재협상할 수 있는 전환사채 방식으로 진행되었다는 루머가 존재한다.[19]

2025년 1월 21일 도널드 트럼프 미국 대통령 취임식을 맞아 인공지능 인프라 관련 업체인 스타게이트의 공동설립을 밝혔다. 다만 직후 중국발 딥시크 쇼크가 벌어지면서 OpenAI도 긴장할 필요가 생겼다.

2025년 2월 10일 일론 머스크가 이끄는 컨소기엄으로부터 974억 달러의 인수 제안서를 받았다는 소식이 알려졌다. 머스크 측은 OpenAI가 이젠 오픈소스와 안정성에 중점을 둔 선한 영향력으로 돌아갈 때라고 제안서에 덧붙였다. 다만 OpenAI의 현재 기업가치가 1,570억 달러[20] 수준으로 평가받으며 머스크와 샘 올트먼 사이의 계속된 언쟁 등을 고려해봤을 때 장난에 가까운 제안이다. 올트먼도 머스크의 X를 그의 제안액 1/10 수준인 97억 4,000만 달러에 살 의향이 있다며 거절 의사를 밝혔다.

자사 응용 소프트웨어의 기반이 되는 파운데이션 모델이며, 유료 API를 통해 서드파티 기업에도 서비스를 제공하고 플러그인 지원을 통하어 자사 GPT만의 생태계를 만들어 나가고 있다. 즉 오픈AI의 알파이자 오메가인 분야이다. 공급이 한정적인 소수의 컴퓨터 과학자 인력을 채용해야되고 막대한 데이터를 필요로 하기 때문에 클라우드 컴퓨팅 비용이 상당하여 언어 모델을 개발하는 기업은 극히 드물다. 따라서 대부분의 AI 스타트업들은 API를 통해 구글, 오픈AI, 메타 등의 모델을 활용하여 자사 서비스에 탑재하는 방식으로 참여한다. 향후 ChatGPT 이상의 프로그램을 낼 예정은 현재로서는 없으며, 유료 API 기반 생태계 확장에 힘을 쏟겠다고 한다.

자세한 내용은 GPT-1 문서 참고하십시오.

자세한 내용은 GPT-2 문서 참고하십시오.

자세한 내용은 GPT-3 문서 참고하십시오.

자세한 내용은 GPT-4 문서 참고하십시오.

자세한 내용은 GPT-5 문서 참고하십시오.

자세한 내용은 o1 문서 참고하십시오.

자세한 내용은 o3 문서 참고하십시오.

자세한 내용은 Whisper(AI) 문서 참고하십시오.

API 개발을 자동화해주는 인공지능이다. 2021년 8월 11일 공개된 업그레이드를 통해, 영어로 된 자연어 문장이나 이미지 데이터 등을 입력함으로써 손쉽게 프로그램을 코딩할 수 있게 되었다. GPT-3을 기반으로 하고 있다. GitHub가 공개한 코파일럿이 Codex를 기반으로 하고있다.

AI SEO에 특화된 언어 모델. 2023년 2월 7일 마이크로스프트 인공지능 언론 발표회에서 최초 공개되었다. Microsoft Bing과 Microsoft Edge에 적용된다. GPT-4에서 검색 기능을 특화시켜 만든 모델이다.

자세한 내용은 CUA 문서 참고하십시오.

언어 모델을 기반으로 한다.

자세한 내용은 ChatGPT 문서 참고하십시오.

자세한 내용은 DALL·E 문서 참고하십시오.

자세한 내용은 Voice Engine 문서 참고하십시오.

자세한 내용은 Sora 문서 참고하십시오.

자세한 내용은 SearchGPT 문서 참고하십시오.

자세한 내용은 OpenAI(인공지능) 문서 참고하십시오.

자세한 내용은 Operator(OpenAI) 문서 참고하십시오.

2023년 11월에 열린 첫 번째 데브데이 컨퍼런스에서 출시를 예고했다.# 개인화된 GPT 에이전트를 거래할 수 있는데, 스토어에 올라오는 GPT 중에서 인기와 활용도가 높은 GPT들에겐 일부 수익 공유를 하겠다고 언급했다. 모바일 생태계를 넓힌 App Store와 Play Store처럼 인공지능 소프트웨어 유통 창구를 직접 담당하겠다는 뜻이다.

기존에는 ChatGPT의 성공 이후 생성형 인공지능 분야에서 여러 유니콘 기업들이 우후죽순 쏟아졌으나, 투입되는 비용 대비 서비스의 수익성이 매우 빈약하기 때문에 외부 투자금 없이는 재정적인 자립이 힘들었다는 단점이 있었다. GPT 스토어 출시 이후에는 코딩 없이 자연어만으로도 맞춤형 서비스를 구축하는 게 가능해졌기 때문에 대중성이 보다 높아질 것으로 예상될 뿐더러 개발자의 수익 창출 루트가 새롭게 생긴 것이다.

하지만 올트먼 축출 사태의 여파 때문인지 출시를 연기한 이후 2024년 1월 10일 출시를 발표했다.

지분율에 상관 없이 사외이사[21]가 50% 이상으로 채워진 비영리 단체 OpenAI Inc.의 이사회에 전권이 부여된 구조다. OpenAI 글로벌 LLC의 지분 49%를 쥐고 있는 마이크로소프트의 경우에도 이사회가 AGI에 도달했다고 판단한 경우, 해당 분야에서는 기존에 맺은 상용 계약[22]의 효력이 사라질 정도다.[23] 자사 홈페이지에서도 투자자의 이익보다 안전한 방식의 AGI 구현이 우선 순위에 있다는 점을 명시하고 있다.#

이러한 구조 속에 비영리 단체 OpenAI Inc.는 수익률이 제한된 영리기업인 OpenAI Global LLC를 지배하고 있다.

마이크로소프트 외에 코슬라벤처스, 리드 호프먼, 세콰이어캐피탈 등이 주요 투자자로 참여하고 있다.

하지만 심각한 적자와 현금 고갈 문제를 해결하고자 펀딩 과정에서 기업공개를 조건으로 투자를 받으며, 영리법인으로의 전환은 숙명이 되었다. 이후 2024년 12월 27일에는 자사 블로그에 기업의 구조를 변화시켜야 되는 이유를 담은 기고문을 게시했다.# AGI 개발이라는 목표를 수행하기 위해 상상 이상의 자본이 필요하며, 이로 인해 기존의 영리와 비영리가 혼재된 구조를 벗어나 앞으로는 델라웨어 공공목적법인(PBC)으로 전환하려고 한다고 밝혔다. 이 과정에서 OpenAI의 새로운 돈줄은 기존의 마이크로소프트가 아니라 더 스타게이트 프로젝트를 합작으로 진행하고 대규모 신규 펀딩에 참여할 소프트뱅크 그룹으로 바뀔 것으로 보인다.[24][25]

이에 일론 머스크와 메타 플랫폼스 등은 영리 전환이 이율배반적이며 기업 윤리에 악영향을 줄 수 있다며 각각 소송전과 조치 서한을 보내기도 하며 험난한 길을 걷게 되었다.[26] 제프리 힌튼도 그동안 비영리 단체로서 세금 혜택을 받아왔으며 다양한 안전 관련 약속을 해왔는데, 이를 바꾸려한다면 AI 산업의 조직과 기업에 매우 부정적인 영향을 줄 것이라고 비판했다.

2023년 11월 17일 공동창업자인 샘 올트먼이 이사회에 의해 대표이사 직책과 이사회에서 해고당했다. 그의 자리는 기존 CTO 미라 무라티가 임시직으로 대체하게 되었다.# OpenAI는 그가 의사소통을 거부하고 책임감 없는 모습을 보였다고 주장하며 이례적으로 불명예스러운 퇴진이 되었다.[40] 이후 그렉 브록만의 X 포스트를 통해 구체적인 전말이 밝혀졌다. 수석과학자인 일리야 수츠케버를 비롯한 이사회 주도로 해고 당일 화상회의를 통해 일방적인 통보를 받았던 것이다.# 안정성, 영리성 관련 문제와 관련된 다툼이 있었다고 한다.[41]

그들을 따라 선임 연구원 세 명이 퇴직을 신청했으며 사내 임직원들은 물론 투자자들의 극심한 반발로 인해 주말동안 협상에 들어가며 올트먼이 다시 복귀할 가능성이 생겼으나, 2023년 11월 20일 사티아 나델라의 포스트를 통해 올트먼은 마이크로소프트의 신설 인공지능 리서치팀에 합류했음이 밝혀졌다. 함께 퇴사한 그렉 브록만과 일부 OpenAI 연구원도 함께 한다. 해당 건과는 별개로 마이크로소프트와의 협력 관계는 유지된다.# 또한 무라티 대신 새로운 임시 CEO는 트위치 공동창업자 에밋 쉬어로 결정되었다.[42]

하지만 OpenAI는 해당 건의 처리 방식으로 인해 투자자들을 비롯, 업계 관계자들의 신뢰를 잃었으며[43] 나델라의 포스트가 올라온지 얼마 되지 않아 'OpenAI is nothing without its people'이라는 문구를 임직원들이 공유함과 동시에 쿠데타를 주도한 일리야 수츠케버가 반성의 내용이 담긴 포스트를 올렸다.#[44] 이후 임직원 770명 중 700명이 서명한 탄원서가 올라왔다. 갑작스러운 해고로 인해 회사가 위기[45]를 맞게 되었으며, 그들의 복귀를 주장하는 내용이 담겼다. 또한 현 이사회가 사임하지 않을 경우 퇴사를 한 뒤 마이크로소프트의 신설된 팀으로 이적하겠다는 협박성 내용도 존재한다.[46] 해당 탄원서에는 수츠케버를 비롯한 임원진 전체가 서명했다.##[47][48]

2023년 11월 21일 이사회가 Anthropic과 합병하기 위해 접촉했다는 보도가 올라왔다. Anthropic의 창업자 세 명 전원이 올트먼 체제의 OpenAI가 상업화되는 행보로 인해 퇴사 후 새로 창업한 기업이기 때문에 막연하게 가능성이 없는 것은 아니다. 현재 OpenAI 이사회의 성향과 매우 비슷하기 때문이다.[49]

그리고 축출 5일만인 11월 22일에 애덤 디엔젤로로 대표되는 기존 이사회와 에밋 쉬어 임시 CEO가 협상에 성공하여 올트먼과 브록만의 복귀가 확정되고 새로운 이사회가 꾸려지면서 사건이 일단락되었다.# 이번 사건을 통해 올트먼에 대한 사내 임직원들의 열렬한 지지가 확인되었으며, 아무리 독립적인 이사회와 비영리기업 구조일지라도 대형 투자를 유치한 이상 설립 취지만을 고집할 수는 없다는 점이 드러났다. 또한 장기적으로는 마이크로소프트의 영향력이 더욱 높아질 것으로 보인다.[50][51] 향후 의결권이 없는 MS 측 참관인을 이사회에 포함시킬 것이라고 한다.#

2023년 12월 8일 마이크로소프트 대변인 프랭크 쇼는 자사가 단순 수익 배분을 통해 수익을 얻을 뿐, OpenAI에 대한 어떠한 지배권도 행사하지 않는다고 밝히면서 반독점에 대한 우려를 일축시켰다.#

2024년 3월 8일 기자회견을 통해 올트먼 축출 사태는 그와 이사회 간의 신뢰 상실의 결과였다고 최종 결론을 지었다. 즉, 안정성이나 재정 문제가 아니었다는 뜻이다. 해당 결론은 윌머헤일이라는 로펌의 사내 조사를 통해 이루어졌다.

하지만 동년도 5월, 당시 이사였던 헬렌 토너는 TED의 AI 쇼 팟캐스트에 출연하여 사내 조사 결론과는 사뭇 다른 의견을 피력했다. 경영진이 이사진에게 사전 공지 없이 ChatGPT를 출시했으며, 올트먼이 스타트업 펀드를 보유하고 있다는 점[52]도 알리지 않았다고 한다. 그 외에도 경영진의 독단적인 의사결정 사례를 언급했다.# 뿐만 아니라 일리야 수츠케버가 퇴사 이후 재취업 대신 상용화 제품을 출시하지 않는 방식으로 안전한 초지능 구축을 목표로 하는 SSI라는 업체를 설립하면서, 사내 조사와는 달리 누가 봐도 안정성을 절대 중요시하는 일리야와의 안정성 관련 갈등이 심각했을 것이라는 점을 유추해볼 수 있다.

2023년 7월 사라 실버맨을 비롯한 작가 4명이 저작권을 위반했다는 이유로 OpenAI에 소송을 제기했다. # # #

2023년 9월 조지 R.R. 마틴, 존 그리샴을 비롯한 작가 17명이 포함된 미국의 소설가 단체(Authors Guild)에서 같은 이유로 소송을 제기했다. #

2023년 12월 대형 언론사인 뉴욕 타임즈가 OpenAI와 마이크로소프트에 소송을 제기했다. #

2024년 4월 30일 8개에 달하는 언론사들이 OpenAI와 마이크로소프트에 소송을 제기했다가 11월 8일에 법원에 의해 기각되었다. #

2024년 5월 OpenAI가 GPT-3에 사용한 'Books1'과 'Books2'라는 학습 데이터를 완전히 삭제하였는데 이 중에는 십만개에 달하는 저작물이 포함되어있다고 Authors Guild에서 주장했다. #

2024년 9월 30일 오픈 소스 프로그래머들이 OpenAI와 마이크로소프트에 소송을 제기했다. #

2024년 11월 22일 뉴욕 타임즈는 OpenAI의 훈련 데이터를 150시간 동안 살펴보는 도중 OpenAI가 증거인멸을 위해 데이터를 삭제했다고 주장했다. #

2024년 11월 29일 캐나다의 CBC를 비롯한 여러 대형 언론사들이 OpenAI에 소송을 제기했다. #

2024년 2월 29일 설립 당시 공익적인 취지를 위반하고 마이크로소프트의 사익을 위한 폐쇄적인 기업으로 변모했다는 명목으로 일론 머스크에 의해 샌프란시스코 법원에서 고발당했다. 이에 OpenAI 측은 3월 5일 자사 블로그를 통해, 이를 정면 반박하는 글을 올렸다.# OpenAI가 재정상 문제로 인해 개발 속도가 더뎌지자, 머스크가 1인 체제로 독단적인 운영을 시도하며 역으로 초기의 설립 취지를 벗어났다고 주장하고 있다. 이후 머스크가 OpenAI의 통제권을 얻는데 실패하자, 당초 약속했던 펀딩 이행도 지키지 않았다는 내용을 이메일 자료를 통해 공개했다.

2024년 6월 11일 머스크가 소송을 취하해달라는 요청을 했다는 소식이 알려졌다.# 이후 아무 말 없이 소송을 취하하였다.

2024년 8월 5일 머스크는 OpenAI에 새로운 소송을 제기하였으며 11월 15일에는 마이크로소프트와 OpenAI가 AI 업계에서 독점적 지위를 유지하기 위해 불법적 행위를 저지르고 있다고 주장했다. # #

2024년 12월 2일 머스크는 OpenAI가 영리 기업으로 전환하는 것을 막아달라고 법원에 호소했다. # OpenAI는 자사 블로그를 통해 오히려 머스크가 OpenAI를 영리 기업으로 전환시키려 했다고 반박했다. #

2024년 5월 일리야 수츠케버 퇴사 소식이 알려진 이후 X를 통해 얀 레이케[53], 인공지능 정책 및 통제 연구원인 컬렌 오키프[54]와 다니엘 코코타일로[55] 등의 임직원들이 대거 퇴사를 결심했다는 소식이 알려진 바 있다. 또한 퇴사 과정에서 직원들에게 NDA 및 평생에 걸쳐 고용주(회사)를 비방하는 것을 금지하는 등의 엄격한 퇴사 계약서를 체결하게 했다는 소식이 알려졌다. 관련 문서 서명을 거부하거나 퇴사 이후 해당 내용을 위반할 경우, 회사에서 근무하는 동안 받았던 주식보상 등을 잃게[56]된다고 한다. 현직 직원과 전직 직원의 주식보상 현금화 한도도 차별했다.[57] 또한 샘 올트먼의 잦은 외부활동과 소통 부족, 안전 문제 등으로 인해 퇴사를 결심했다는 직원이 꽤나 존재했다.

이후 올트먼이 X를 통해 퇴사 계약 관련 문서에는 지분 취소에 관련된 조항이 있지만, 실제로 이를 이행한 적은 없으며, 현재는 표준 퇴사 서류를 수정하는 중이라는 의견을 내놓으면서 해당 이슈는 기정사실화되었다.

경영진 해임 후 며칠만에 복귀 등 일련의 해프닝에 대해, OpenAI가 수익성을 우선시 하면서 안정성은 뒷전으로 팽개치는 것이 아니냐는 의혹이 제기되고 있다. 즉, OpenAI의 수익성과 대외 투자자 유치 등 사업성을 더 추구하는 샘 올트먼 파벌 및 그를 지지하는 대다수 직원들, 반대로 AI가 어느 단계를 넘으면 인간이 더이상 제어할 수 없으므로 그 전에 통제 안전장치를 먼저 확보해야하며 인류를 위해 AI를 사용해야 한다는 일리야 수츠케버와 얀 라이케 등 안정성 추구 파벌의 갈등 때문이라는 의혹이다. 실제로 최초 OpenAI의 설립 목적은 "안전하고 공개적인" 인공지능의 개발을 추구하는 것이었지만, 어느 순간부터 AI로 돈을 벌기위한 영리 수익사업 회사로 바뀌는 느낌이다.

경영진 해임사태의 최종 조사결과는 안정성 문제가 아닌 경영진과 이사회 간의 신뢰상실 문제였다고 발표는 했지만, 실제로 경영진 해임을 주동했던 일리야 수츠케버와 얀 라이케가 결국 2024년 5월15일 퇴사한 후, OpenAI 측은 바로 이틀 뒤 5월17일에 수츠케버가 이끌던 슈퍼얼라인먼트(Superalignment) 팀을 해체하고, 존 슐먼이 이끄는 다른 부서와 통폐합시켰다. 이러한 행보는 AI 안정성에 대한 통제활동을 없애버리는 것이 아닌가 하는 의혹을 부추기게 되었다.

해당 팀은 지난 2023년 7월 수츠케버를 중심으로 사내 컴퓨팅 자원의 20%를 할당받으며 신설된 바 있다. 당시의 OpenAI 게시물을 보면 아래와 같이 포부를 밝히고 있다.
"현재로서는 잠재적으로 초지능 AI를 조종하거나 제어하고, 그것이 제멋대로 행동하지 않도록 방지하는 해결책이 없다. 인간 피드백에서 강화 학습과 같은 현재의 AI 정렬 기술은 인간이 AI를 감독할 수 있는 능력에 의존한다. 그러나 인간은 우리보다 훨씬 똑똑한 AI 시스템을 신뢰할 수 없게 감독할 수 없으며, 따라서 현재의 정렬 기술은 초지능에 맞추지 못할 것이다. 우리는 새로운 과학적 및 기술적 돌파구가 필요하다."

공동으로 팀을 이끌던 얀 라이케는 지난 몇 달 동안 컴퓨팅 자원을 확보하는 데 어려움을 겪는 등 회사의 우선순위에 대한 의견 차이로 인해 퇴사를 결심했다고 밝혔다.[58] 그 외에도 안전성에 관해 비슷한 의견을 내는 다니엘 코코탈로, 크레첸 크루거 등 다수의 직원들이 퇴사했다.

슈퍼얼라인먼트 팀은 AI의 초지능(Super-Intelligence) AGI를 사전에 통제하기 위한 안전장치를 연구하는 팀이었다. 부서 이름에서 뜻하는 Alignment 정렬의 뜻은 인간의 의도를 AI 가 이해할 수 있도록 동작 방향성을 정렬 일치시키는 것을 말한다.

아래는 AI Alignment가 무슨 뜻인지? 질문에 대한 ChatGPT의 답변이다.

샘 올트먼과 그렉 브록만이 해임 후 재복귀하면서 오히려 과거보다 더욱 강화된 전권을 쥐게 되었고, 일리야 수츠케버의 퇴사와 수퍼얼라인먼트 팀을 해체시키는 과정을 겪으면서 다시 한 번 안정성 관련 이슈가 화두로 떠오른 상황이다. MIT 교수 Yossi sheffi 기고문, OpenAI 사태의 교훈, 인공지능의 분열적이고 양극화된 특성의 위험성

세간의 안정성 이슈 제기를 의식한 듯 OpenAI 이사회는 기존 팀을 해체한지 얼마되지 않아 2024년5월28일 새로운 "안전 및 보안위원회"를 구성한다는 발표를 했다. CNBC 뉴스
다만, 이 위원회 멤버들이 외부 인원 없이 전부 내부 인사들로만 구성되었다는 점에서 비판을 받고 있다. 위원회 멤버는 샘 올트먼, 브렛 테일러, 아담 디앤젤로, 니콜 셀리그만, 최고 과학자인 야쿱 파초키, 준비 팀을 이끄는 알렉산더 매드리, 안전 시스템 책임자인 릴리안 웽, 보안 책임자인 매트 나이트, 그리고 정렬 과학 책임자인 존 슐만이 포함된다.

2023년 11월 ChatGPT에 음성 기능이 추가되었는데, 이 중 SKY 모드의 음성이 스칼렛 요한슨의 목소리와 흡사해 화제가 되기도 했다. 다만 이 때까지는 비슷한 목소리로 잠깐 화제가 된 수준이었는데, 무엇보다 음성 기능의 반응 속도가 느렸기에 광범위하게 대중화될 만큼의 성능은 아니었던지라 이스터 에그쯤으로 여기는 반응이 대다수였다.

2024년 5월 OpenAI의 GPT-4o 발표 이후 논란이 점화되기 시작했다. 일단 새로운 음성 기능이 기존의 TTS(Text to Speech)에서 진보한 멀티모달 모델 기반이었기에 반응 속도가 극적으로 빨라져 음성 채팅 기능이 뜨거운 호응을 일으키기에 충분했다. 특히, 데모 영상의 인공지능 목소리가 영화 그녀(Her)의 인공지능 사만다의 목소리를 연상시키게 할 정도로 흡사할 뿐만 아니라 샘 올트먼 또한 발표 직후 자신의 SNS인 X에 ‘her’라고 포스팅 했을 정도로 영화와 연결지으려는 홍보의 의도성이 명확해 보였다.

이후 2024년 5월 20일 OpenAI는 공지를 내고 "우리는 챗GPT, 특히 (서비스 내 음성비서인) 스카이(Sky)의 목소리를 어떻게 선택했는지에 대해 많은 질문을 받았다"며 "문제를 해결하는 동안 스카이 사용을 일시 중지할 것"이라고 밝혔다.

이날 요한슨은 성명을 통해 샘 올트먼이 지난 9월 챗GPT 4.0 시스템의 음성을 담당해달라고 제안했지만 '개인적 이유'로 거절했음을 분명히 했다. 챗GPT 4.0 데모가 공개되기 불과 이틀 전에야 올트먼이 요한슨의 에이전트를 통해 재고해달라고 요청했는데, "논의가 이뤄지기도 전에 이미 (요한슨과 흡사한 목소리의) 시스템이 만들어졌다"는 지적이다. 이에 요한슨은 법률 변호사를 고용했고, 변호사가 올트먼에게 두 통의 공식 서한을 보낸 후 오픈AI가 스카이 음성을 삭제하는 데 마지못해 동의했다고 밝혔다. #

그러나 후에 스카이의 성우가 밝혀지면서 해당 목소리가 스칼렛 요한슨의 목소리가 아닌 것으로 드러났다. 성우의 에이전트에 따르면 해당 성우는 OpenAI가 스칼렛 요한슨과 접촉하기 6개월 전에 캐스팅 되었으며, 스칼렛 요한슨이나 영화 her에 대한 언급은 전혀 듣지 못했다고 말했다. 성우 본인 역시 자연스러운 자신의 목소리일 뿐이며 누군가를 따라하지 않았다고 말했다. 해당 성우를 캐스팅했던 조앤 장도 그 성우의 목소리가 스칼렛 요한슨과 닮았다고 생각해 본 적 없다고 답했다. #

2024년 11월 26일 OpenAI에서 4년 동안 연구원으로 근무했던 수치르 발라지(Suchir Balaji)가 샌프란시스코 자택에서 숨진 채 발견되었으며 검시관의 부검과 경찰 조사 결과로 자살이라 결론지었으나 공식 보고서는 발표되지 않았다. #

해당 연구원은 2024년 10월 OpenAI와 저작권 관련 분쟁으로 소송을 진행하고 있던 뉴욕 타임즈와의 인터뷰를 통해 ChatGPT가 미국의 저작권법을 위반하고 있으며 생성형 인공지능이 인터넷에 해를 끼치고 있다고 주장했다.

2024년 12월 29일 수치르의 부모는 자살이 아닌 타살로 의심된다며 탐정을 고용했고 FBI에 수사를 요청하였다. # #

이에 일론 머스크는 수치르의 부모에게 자살로 보이지 않는다는 트윗을 남겼다. #

수치르의 부모는 2025년 1월 1일 NDTV와 인터뷰에서 2차 부검 결과 수치르가 저항한 흔적이 발견되었다고 주장했다. #

2025년 2월 14일 공개된 공식 보고서에 따르면 발라지는 사망하기 약 2년 전에 자살에 사용된 글록 권총을 구매 및 등록했으며, 사망 직전 컴퓨터로 뇌 구조를 검색한 기록이 존재했다. 경찰이 신고를 받고 발라지의 아파트에 도착했을 당시, 아파트의 유일한 출입구는 안에서 잠겨 있었으며, 창문은 약 4인치 정도만 열리는 구조로 외부 침입 가능성은 낮았다 보고되었다. 수사관들은 "강제 침입이나 내부에서 벌어진 소동의 흔적을 발견하지 못했다"라고 밝혔다. #

독물학 검사 결과 사망 당시 체내에 에탄올과 암페타민이 잔존해 있었으며, 샌프란시스코 경찰국장은 검시관의 조사 결과와 경찰국의 자체 수사 결과를 종합하여 "타살이라고 볼 만한 충분한 증거가 없다" 결론 내렸다. #