역사는 지난 일주일을 MS 연합과 구글 동맹 간의 치열한 AI 전투로 기록할 것이다.MS 연합에 속한 OpenAI는 ChatGPT 성공에 고무된 후 연이어 텍스트와 이미지를 함께 처리하는 multimodal의 GPT-4를 기습적으로 발표했다. MS는 이미 Bing 검색에 GPT-4를 활용 중임을 밝히며 지원 사격을 했고 동시에 Office 제품군을 중심으로 AI 기반 사무 자동화 기능 (Co-pilot)을 선보였다. Code Red 중 Bard로 반격을 꽤 한 Google은 유리한 고지를 탈환하지 못 한 채 그동안 꽁꽁 숨겨뒀던 PaLM을 API로 공개함과 동시에 MS 코파일럿과 같은 기능을 자사 Workspace에 통합함으로 확전 의지를 나타냈다. 뿐만 아니라, Anthropic은 자체 LLM인 Claude를 공개함으로써 구글의 반격에 화력을 더하는 추세다. 독립군 Meta도 LLaMA를 선보이며 잠시 존재감을 과시했으나 MS-구글 간의 AI 전투로 다시 수면 아래로 ..

Between data and model, which is more important in AI era? 이런 류의 질문은 누군가 내게 직접 물어봤으면 좋겠지만 아무도 묻지 않으니 자문자답한다. AI 관련 글이나 동영상에 AI 시대에 데이터와 모델 (또는 알고리즘)의 중요성에 관한 설명을 종종 보곤 한다. 직접적으로 내게 '뭐가 더 중요해?’라고 묻는다면 당연히 ‘듈다’라고 답하겠지만, 기술의 발전 단계 상에서 둘 간의 경중이 계속 변해왔음을 볼 수 있다. 굳이현시점을기준으로 답한다면 다시 데이터가 더 중요해졌다고 본다. 더 많은 데이터보다는 정제되고 신뢰할 수 있는 데이터가 중요해지고 있다.이전 글에서 밝혔듯이 이젠 이런 류의 질문은 먼저 ChatGPT의 답을 보고 계속 설명을 이어가자. (Korean translation by ChatGPT) Both data and model are essential in the AI era, and their importance can depend on the specific cont..

Between data and model, which is more important in AI era?  이런 류의 질문은 누군가 내게 직접 물어봤으면 좋겠지만 아무도 묻지 않으니 자문자답한다. AI 관련 글이나 동영상에 AI 시대에 데이터와 모델 (또는 알고리즘)의 중요성에 관한 설명을 종종 보곤 한다. 직접적으로 내게 '뭐가 더 중요해?’라고 묻는다면 당연히 ‘듈다’라고 답하겠지만, 기술의 발전 단계 상에서 둘 간의 경중이 계속 변해왔음을 볼 수 있다. 굳이 현시점을 기준으로 답한다면 다시 데이터가 더 중요해졌다고 본다. 더 많은 데이터보다는 정제되고 신뢰할 수 있는 데이터가 중요해지고 있다. 이전 글에서 밝혔듯이 이젠 이런 류의 질문은 먼저 ChatGPT의 답을 보고 계속 설명을 이어가자. (Korean translation by ChatGPT) Both data and model are essential in the AI era, and their importance can depend on the specific con..

My answer to an old question10년 안에 인공지능으로 대체될 직업은?잊을만하면 등장하는 떡밥 기사다. 내용은 매우 구체적이다. 외국의 유수 대학교 연구에 따르면 "20XX 년까지 Y%의 직업이 인공지능 또는 로봇으로 대체된다"라고 밝혀졌다 류의 기사다. 기술의 종류가 간혹 바뀔 뿐 뉘앙스는 매번 똑같다. 산업화 이후로 직업의 종류가 바뀌었고 그 변화의 중심에 기술이 있다는 걸 부정하진 않는다. 그런데 주변을 보면 벌써 몇 십 년 전에 없어졌어야 할 직업에 여전히 종사하는 사람들을 종종 본다. 대표적으로 인간문화재 급의 수공애 장인들이 있다. 자동화 공장이 있지만 여전히 소규모 대장간이 존재한다. 이케아 가구로 집을 가득 채울 수도 있지만 자개 장인도 있고 작은 목공소들도 있다. 아마존으로 대변되는 인터넷 서점의 위세에도 여전히 작은 동네 ..

My answer to an old question10년 안에 인공지능으로 대체될 직업은?잊을만하면 등장하는 떡밥 기사다. 내용은 매우 구체적이다. 외국의 유수 대학교 연구에 따르면 "20XX 년까지 Y%의 직업이 인공지능 또는 로봇으로 대체된다"라고 밝혀졌다 류의 기사다. 기술의 종류가 간혹 바뀔 뿐 뉘앙스는 매번 똑같다. 산업화 이후로 직업의 종류가 바뀌었고 그 변화의 중심에 기술이 있다는 걸 부정하진 않는다. 그런데 주변을 보면 벌써 몇 십 년 전에 없어졌어야 할 직업에 여전히 종사하는 사람들을 종종 본다. 대표적으로 인간문화재 급의 수공애 장인들이 있다. 자동화 공장이 있지만 여전히 소규모 대장간이 존재한다. 이케아 가구로 집을 가득 채울 수도 있지만 자개 장인도 있고 작은 목공소들도 있다. 아마존으로 대변되는 인터넷 서점의 위세에도 여전히 작은 동네 ..

인공지능, ChatGPT 시대에 살아남는 법에 대한두 번째글을 준비하고 있었다.첫 번째는질문하기였는데두 번째는그 대척점의 평가하기였다. 생각이 완벽히 정리되지 않은 시점에 글을 적으니 논리가 술술 풀리지 않아서 며칠을묶혀뒀다.그러나가 좀 전에 그냥 ChatGPT에게 ‘인공지능의 시대에 무슨 기술이나 지식이 필요한가?’라는 짧은 질문을 던졌다. 그냥 그 답을 옮긴다. Q. Which skills or knowledge are required in the ai era? (번역본은 아래에) ChatGPT’s Answer. As we continue to enter the era of artificial intelligence (AI), there are certain skills and knowledge that are becoming increasingly important for individuals to have in order to thrive in this new landscape. Here are a few key examples: 1.Data analysis and interpretation: As AI technology continues to advance, it is generating vast amounts of data that can be analyzed to identify patter..

인공지능, ChatGPT 시대에 살아남는 법에 대한 두 번째 글을 준비하고 있었다. 첫 번째는 질문하기였는데 두 번째는 그 대척점의 평가하기였다. 생각이 완벽히 정리되지 않은 시점에 글을 적으니 논리가 술술 풀리지 않아서 며칠을 묶혀뒀다. 그러나가 좀 전에 그냥 ChatGPT에게 ‘인공지능의 시대에 무슨 기술이나 지식이 필요한가?’라는 짧은 질문을 던졌다. 그냥 그 답을 옮긴다. Q. Which skills or knowledge are required in the ai era? (번역본은 아래에) ChatGPT’s Answer. As we continue to enter the era of artificial intelligence (AI), there are certain skills and knowledge that are becoming increasingly important for individuals to have in order to thrive in this new landscape. Here are a few key examples: 1. Data analysis and interpretation: As AI technology continues to advance, it is generating vast amounts of data that can be analyzed to identify ..

제목을 더 자극적으로 ‘ChatGPT는 왜 동작하는가?”로 할 수도 있지만 어차피 ChatGPT도 한 때고 새로운 LM이 나와서 이번이 진짜 AGI다라고 또 주장할 테니 중립적으로 LM은 어떻게 동작하고 왜 LLM이 작동하는가라고 정했다. 이 글은 기술적으로 LM이나 GPT/LaMDA 등을 다루지 않고, 단지 일반 독자의 이해를 돕기 위한 글이다. 개념적으로 설명한 것이니 기술적으로 완전히 틀렸을 수도 있다.Wikipedia는 Language Model (LM, 언어모델)을 ‘a probability distribution over sequences of words’라고 정의한다. 이를 좀 쉽게 설명하면 어떤 단어 (또는 문장)이 주어지면 바로 다음에 올 단어(의 확률)를 예측하는 거다. ‘I am a ___’까지 오며 다음에 boy가 올지 student가 올지를 확률적으로 계산해서 문장을 완성하는 거라 생각하면 된다. 단어 A 다음에 올 단어 B는 결국 확률값이 가장 큰 단..