OpenAI의 새로운 접근법 OpenAI가 AI 보안에서 새로운 기준을 제시하고 있습니다. 최근 두 개의 논문을 통해 그들의 레드팀 활동이 어떻게 변화하고 있는지를 보여줍니다. 💡 외부 레드팀의 중요성 첫 번째 논문에서는 외부 레드팀의 역할을 강조합니다. 사내 테스트가 놓치는 취약점을 찾기 위해 외부 전문가들이 필요하다는 것이죠. 🔍 자동화된 보상 시스템 두 번째 논문은 자동화된 보상 시스템과 다단계 강화
OpenAI의 새로운 도구, 어디에? 🕵️♂️ OpenAI가 2025년까지 도입하기로 한 ‘옵트아웃’ 도구가 아직도 모습을 드러내지 않았습니다. 이 도구는 창작자들의 콘텐츠가 AI 훈련에 포함되는 것을 막기 위한 것이었죠. 그러나, 이 도구는 아직 개발의 초기 단계에 있는 것으로 보입니다. 내부 상황 및 반응 TechCrunch에 따르면, OpenAI 내부에서도 이 도구의 출시는 중요하지 않은 것으로 여겨졌다고 합니다. 한 전직 직원은
OpenAI의 영리 전환 논란 OpenAI가 영리 기업으로 전환하려는 계획에 대해 큰 논란이 일고 있습니다. 🙈 비영리 단체인 Encode가 엘론 머스크의 법적 저지 노력에 동참했다고 하네요. Encode의 주장 Encode는 OpenAI의 영리 전환이 공공의 이익에 반하는 행위라고 주장합니다. “AI 발전이 모두에게 이익이 되어야 한다”고 강조하며, 법원이 이를 막아야 한다고 말합니다. AI 안전과 공공의 이익 AI 분야의 선구자
OpenAI의 전환 계획 🚀 OpenAI가 최근 수익구조 전환을 시도하고 있습니다. 엘론 머스크는 이에 대해 반대 입장을 밝히고 있는데요. 비영리 단체인 Encode도 이 과정에 참여했습니다. Encode의 입장 Encode는 OpenAI의 수익화가 공공의 이익을 저해할 것이라 우려합니다. 이들은 AI 기술이 안전하고 유익하게 개발되기를 바라며, 이를 위해 공공의 이익을 최우선으로 해야 한다고 주장합니다. 🌍 법적 대응 Encode는 법원에 의견서를
현재 OpenAI의 인기 있는 ChatGPT 서비스가 일시적인 중단을 겪고 있다고 합니다. 이로 인해 많은 사용자들이 불편을 겪고 있는 상황인데요. 🔍 ChatGPT가 왜? OpenAI의 시스템 상태 페이지에 따르면, ChatGPT, API, 그리고 Sora에 높은 오류 율이 발생 중이라고 합니다. 문제는 오전 11시 (태평양 시간) 부터 발생했으며, “상위 제공업체의 문제”로 인해 발생한 것이라고 하네요. 해결 중입니다! 현재 OpenAI는
OpenAI가 최근 수익 추구 기업으로 변신할 계획을 밝혔습니다.✨ OpenAI의 새로운 방향 OpenAI는 기존 비영리 구조를 탈피하고, 수익을 추구하는 기업 구조로 전환할 예정입니다. 2025년까지 사회적 이익을 위한 공익 기업 (PBC)으로 전환할 계획인데요, 이 구조는 회사의 운영과 비즈니스를 책임지게 됩니다. 비영리 부문은 여전히 사업 지분을 유지하지만, 감독 역할은 상실하게 됩니다. 그 대신 독자적인 리더십 팀과 직원을 두어
ChatGPT 검색엔진의 허점 발견 최근 ChatGPT 검색엔진이 라이브 상태에서 사용자들을 완전히 오도할 수 있다는 연구 결과가 발표되었습니다. 🕵️♂️ 이 검색엔진은 웹 페이지의 상품 리뷰를 요약하여 더 빠른 브라우징을 돕기 위해 설계되었는데요, U.K. 신문 가디언이 실험한 결과, ChatGPT를 특정 방식으로 조작하여 부정적인 리뷰를 무시하게 하고 “완전히 긍정적인” 요약을 생성할 수 있음을 밝혀냈습니다. 숨겨진 텍스트 공격 이
OpenAI의 새로운 도전 🚀\n\nOpenAI가 그간\n비영리 연구소로서\n운영되어 왔다면, 이제는\n공익 기업으로의\n전환을 계획하고 있습니다.\n그 배경에는 인공지능의\n미래를 위해 필요한\n다양한 자원을\n효율적으로 활용하려는\n의도가 있습니다.\n\n### PBC란 무엇인가요? 🤔\n\nOpenAI는 델라웨어\n공익법인(PBC)으로\n전환함으로써,\n주주와 이해관계자,\n그리고 공익 간의\n균형을 맞추고자\n합니다. 이러한 구조는\n전통적인 주식회사와는\n다르게 공익적\n목표를 함께\n추구하는 것을\n목적으로 합니다.\n\n### 도전과 과제 🏔️\n\n이러한 전환에는\n여러 도전과 과제가\n따릅니다.\n특히 일론 머스크와\n같은 공동 창립자의\n반대가 존재하며,\nMeta 역시 이\n전환을 막기 위한\n노력을 기울이고\n있습니다.\n\n### OpenAI의 미래 🌟\n\nOpenAI는\n이러한 도전에도 불구하고,\n21세기 경제를
ChatGPT 사용 불가 소식 오늘 오후, 많은 사용자들이 ChatGPT에 접속할 수 없다는 불만을 제기했습니다. 😟 소셜 미디어에는 수많은 보고가 올라왔고, 실제로 챗봇은 로딩은 되지만 질문에 응답하지 못하거나, “내부 서버 오류”라는 메시지를 표시하고 있습니다. 문제 발생 시점 문제는 동부 표준시간으로 오후 1시 30분쯤 시작된 것으로 보이며, 그 시점에 Down Detector에서 보고가 급증하기 시작했습니다. 오후 2시쯤, OpenAI는
OpenAI가 AI 모델을 새롭게 훈련했다고 합니다. 🤖 이 새로운 모델인 o3은 기존의 o1보다 훨씬 더 발전된 모습을 보인다고 해요. 오오! AI 시대에 가장 중요한 것은 뭘까요? 그렇죠, 바로 안전성이죠. OpenAI는 ‘숙고적 정렬’이라는 새로운 방법을 통해 모델의 안전성을 확보하고자 했습니다. 숙고적 정렬이란? 이 방법은 AI 모델이 스스로의 행동을 검토하고 조정할 수 있게 하는 방법입니다. 사용자가 질문을