The Generalized Random Energy Model and its Application to the Statistical Physics of Ensembles of Hierarchical Codes Neri Merhav2007 Department of Electrical EngineeringDec Technion – Israel Institute of Technology Haifa 32000, ISRAEL 27 Abstract[cs.IT] In an earlier work, the statistical physics associated with finite–temperature decoding of code ensembles, along with the relation to their random coding error exponents, were explored in a framework that is analogous to Derrida’s random energy model (REM) of spin glasses, according to which the energy levels of the various spin configurations are independent random variables. The generalized REM (GREM) extends the REM in that it introduces correlations between energy levels in an hierarchical structure. In this paper, we explore some analogies between the behavior of the GREM and that of code ensembles which have parallel hierarchical structures. In particular, in analogy to the fact that the GREM may have different types of phase transition effects, depending on the parameters of the model, then the above–mentioned hierarchical code ensembles behave substantially differently in the various domains of the design parameters of these codes. We make an attempt to explore the insights that can be imported from the statistical mechanics of the GREM and be harnessed to serve for code design consid- erations and guidelines.arXiv:0712.4209v1 Index Terms: Spin glasses, GREM, phase transitions, random coding, error exponents. 1 Introduction In the last few decades it has become apparent that many problems in Information Theory have analogies to certain problems in the area of statistical physics of disordered systems. Such analogies are useful because physical insights, as well as statistical mechanical tools and analysis techniques can be harnessed in order to advance the knowledge and the understanding with regard to the information–theoretic problem under discussion. 1 One important example of such an analogy is between the statistical physics of…

한글 요약 (Korean Summary)

주요 기술 용어 (한글 설명)

발췌문 한글 번역 (Korean Translation of Excerpt)

일반화 된 랜덤 에너지 모델과 계층 코드 앙상블의 통계 물리학에 대한 적용 Neri Merhav2007 전기 엔지니어링 Dec -Departice of Electrical EngineeringDec Technion -Israel Institute of Technology 32000, Israel 27 Abstract [cs.it] 초기 연구에서, 핵심의 상당한 오류와 관련된 통계적 물리학과 관련된 통계적 물리학과 관련된 통계적 물리학과 관련하여, 통계적 코드는 포함되어 있습니다. 다양한 스핀 구성의 에너지 수준은 독립적 인 랜덤 변수입니다. 일반화 된 REM (GREM)은 계층 구조에서 에너지 수준 간의 상관 관계를 도입한다는 점에서 REM을 확장합니다. 이 논문에서 우리는 그렘의 동작과 병렬 계층 구조를 가진 코드 앙상블의 동작 사이의 일부 유사성을 탐구합니다. 특히, 그렘은 모델의 매개 변수에 따라 다른 유형의 위상 전이 효과를 가질 수 있다는 사실과 유사하게, 위의 언급 된 계층 코드 앙상블은 이들 코드의 설계 파라미터의 다양한 영역에서 실질적으로 다릅니다. 우리는 Grem의 통계 역학에서 가져올 수있는 통찰력을 탐색하고 코드 설계 고려 및 지침에 서비스를 제공하기 위해 활용됩니다. ARXIV : 0712.4209V1 색인 용어 : 스핀 안경, 그렘, 위상 전환, 무작위 코딩, 오류 지출. 1 소개 지난 수십 년 동안 정보 이론의 많은 문제가 무질서한 시스템의 통계 물리학 영역에서 특정 문제와 유사하다는 것이 분명해졌습니다. 이러한 유사성은 논의중인 정보 – 이론적 문제와 관련하여 지식과 이해를 발전시키기 위해 물리적 통찰력과 통계적 기계 도구 및 분석 기술을 활용할 수 있기 때문에 유용합니다. 1 그러한 비유의 중요한 예는 통계 물리학 사이의 예입니다.