Workshop on

The Roadmap for the Revitalization of High-End Computing

COMPUTING RESEARCH ASSOCIATION

更多

JUNE 16-18, 2003

Edited by Daniel A. Reed

Table of Contents

PREFACE . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .1

1. EXECUTIVE SUMMARY . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3

1.1. ENABLING TECHNOLOGIES . . . . . . . . . . . . . . . . . . . . . . . . . . . .3

1.2. COTS-BASED ARCHITECTURES . . . . . . . . . . . . . . . . . . . . . . . . . .4

1.3. CUSTOM ARCHITECTURES . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4

1.4. RUNTIME AND OPERATING SYSTEMS . . . . . . . . . . . . . . . . . . . . . .5

1.5. PROGRAMMING ENVIRONMENTS AND TOOLS . . . . . . . . . . . . . . .5

1.6. PERFORMANCE ANALYSIS . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6

1.7. APPLICATION-DRIVEN SYSTEM REQUIREMENTS . . . . . . . . . . . . . . .6

1.8. PROCUREMENT, ACCESSIBILITY, AND COST OF OWNERSHIP . . . . . .7

2. ENABLING TECHNOLOGIES FOR HIGH-END COMPUTING . . . . . . . . . . . .9

2.1. ENABLING TECHNOLOGIES . . . . . . . . . . . . . . . . . . . . . . . . . . . .9

2.1.1. Device Technologies . . . . . . . . . . . . . . . . . . . . . . . . . .9

2.1.2. Memory Devices . . . . . . . . . . . . . . . . . . . . . . . . . . . .12

2.1.3. Storage and I/O . . . . . . . . . . . . . . . . . . . . . . . . . . . .12

2.1.4. Interconnects . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13

2.1.5. Single Chip Architecture . . . . . . . . . . . . . . . . . . . . . .14

2.1.6. Power/Thermal Management and Packaging . . . . . . . . .14

2.1.7. Software Methods and Algorithms . . . . . . . . . . . . . . .15

2.2. SUMMARY OF STRATEGIC FINDINGS . . . . . . . . . . . . . . . . . . . . .16

2.3. ENABLING TECHNOLOGY ROADMAP . . . . . . . . . . . . . . . . . . . . .17

2.3.1. Time Scales and Investments . . . . . . . . . . . . . . . . . . .17

2.3.2. Key Technologies . . . . . . . . . . . . . . . . . . . . . . . . . . .18

3. COTS-BASED ARCHITECTURES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .21

3.1. ENABLING TECHNOLOGIES . . . . . . . . . . . . . . . . . . . . . . . . . . .21

3.1.1. Memory Systems and Interconnects . . . . . . . . . . . . . . .22

3.1.2. System Heterogeneity . . . . . . . . . . . . . . . . . . . . . . . .22

3.2. SUMMARY OF STRATEGIC FINDINGS . . . . . . . . . . . . . . . . . . . . .23

3.2.1. Government Coordination . . . . . . . . . . . . . . . . . . . . .23

3.2.2. Long-Term Research Funding . . . . . . . . . . . . . . . . . . .23

3.3. OTHER CHALLENGES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24

3.3.1. Parallel Processing . . . . . . . . . . . . . . . . . . . . . . . . . .24

3.3.2. Scalable Software and Tools . . . . . . . . . . . . . . . . . . . . . . . . . .24

4. CUSTOM ARCHITECTURES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25

4.1. CUSTOM-ENABLED ARCHITECTURE . . . . . . . . . . . . . . . . . . . . . .25

4.1.1. Strategic Benefits . . . . . . . . . . . . . . . . . . . . . . . . . . .26

4.1.2. Challenges . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .27

4.2. SUMMARY STRATEGIC FINDINGS . . . . . . . . . . . . . . . . . . . . . . .27

4.2.1. Advantages . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .27

4.2.2. Near- and Medium-Term Oppor tunities . . . . . . . . . . . .27

4.2.3. Strategic Par tnerships . . . . . . . . . . . . . . . . . . . . . . . .28

4.2.4. Funding Culture . . . . . . . . . . . . . . . . . . . . . . . . . . . .28

4.2.5. Innovation in System Software and Programming

Environments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28

4.2.6. Application Requirements Characterization . . . . . . . . . .29

4.2.7. Basic Research for End of Moore’s Law . . . . . . . . . . . .29

4.3. TECHNICAL DIRECTIONS FOR FUTURE CUSTOM ARCHITECTURES . . . .30

4.3.1. Fundamental Oppor tunities Enabled by Custom

Architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30

4.3.2. Examples of Innovative Custom Architectures . . . . . . . .32

4.3.3. Enabling and Exploiting Global Bandwidth . . . . . . . . . .33

4.3.4. Enabling and Exploiting Function-Intensive Structures . . .34

4.3.5. Efficiency via Custom Mechanisms . . . . . . . . . . . . . . .34

4.3.6. Execution Models . . . . . . . . . . . . . . . . . . . . . . . . . . .34

4.4. OPEN ISSUES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .35

4.4.1. Programming and HEC Architecture . . . . . . . . . . . . . . .35

4.4.2. The Role of Universities . . . . . . . . . . . . . . . . . . . . . . .35

4.5. ROADMAP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36

4.5.1. Five Years (FY05-FY09) . . . . . . . . . . . . . . . . . . . . . . .37

4.5.2. Ten Years (FY10-FY14) . . . . . . . . . . . . . . . . . . . . . . . .38

4.5.3. Fifteen Years (FY15-FY19) . . . . . . . . . . . . . . . . . . . . .39

4.6. SUMMARY AND CONCLUSIONS . . . . . . . . . . . . . . . . . . . . . . . .39

5. RUNTIME AND OPERATING SYSTEMS . . . . . . . . . . . . . . . . . . . . . . . . .41

5.1. RECURRING THEMES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .41

5.2. OPERATING SYSTEM INTERFACES . . . . . . . . . . . . . . . . . . . . . . .42

5.3. HARDWARE ABSTRACTIONS . . . . . . . . . . . . . . . . . . . . . . . . . .43

5.4. SCALABLE RESOURCE MANAGEMENT . . . . . . . . . . . . . . . . . . . .43

5.5. DATA MANAGEMENT AND FILE SYSTEMS . . . . . . . . . . . . . . . . . .44

5.6. PARALLEL AND NETWORK I/O . . . . . . . . . . . . . . . . . . . . . . . . .45

5.7. FAULT MANAGEMENT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .45

5.8. CONFIGURATION MANAGEMENT . . . . . . . . . . . . . . . . . . . . . . .46

5.9. OPERATING SYSTEM PORTABILITY . . . . . . . . . . . . . . . . . . . . . . .47

5.10. OPERATING SYSTEM SECURITY . . . . . . . . . . . . . . . . . . . . . . . . .48

5.11. PROGRAMMING MODEL SUPPORT . . . . . . . . . . . . . . . . . . . . . . .51

6. PROGRAMMING ENVIRONMENTS AND TOOLS . . . . . . . . . . . . . . . . . .53

6.1. KEY OBSERVATIONS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53

6.2. THE STATE OF THE ART AND AN EVOLUTIONARY

PATH FORWARD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .54

6.2.1. Software Productivity . . . . . . . . . . . . . . . . . . . . . . . .55

6.3. REVOLUTIONARY APPROACHES . . . . . . . . . . . . . . . . . . . . . . . .56

6.3.1. Research on the Hardware/Software Boundary . . . . . . .57

6.4. BEST PRACTICES AND EDUCATION . . . . . . . . . . . . . . . . . . . . . .58

7. PERFORMANCE MODELING, METRICS, AND SPECIFICATIONS . . . . . . . .59

7.1. BASIC METRICS . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .60

7.2. CURRENT PRACTICE IN SYSTEM PROCUREMENTS . . . . . . . . . . . . .61

7.3. PERFORMANCE-BASED SYSTEM SELECTION . . . . . . . . . . . . . . . .62

7.3.1. Per formance Modeling . . . . . . . . . . . . . . . . . . . . . . .63

7.3.2. System Simulation . . . . . . . . . . . . . . . . . . . . . . . . . .64

7.3.3. Per formance Monitoring Infrastructure . . . . . . . . . . . . .65

7.3.4. Libraries, Compilers, and Self-Tuning Software . . . . . . .66

8. APPLICATION-DRIVEN SYSTEM REQUIREMENTS . . . . . . . . . . . . . . . . .69

8.1. APPLICATION CHALLENGES . . . . . . . . . . . . . . . . . . . . . . . . . . .69

8.1.1. Lattice QCD . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .70

8.1.2. Computational Biosciences . . . . . . . . . . . . . . . . . . . . .70

8.2. SYSTEM CHALLENGES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .71

8.3. CURRENT SYSTEM LIMITATIONS . . . . . . . . . . . . . . . . . . . . . . . .72

8.4. SUPPORT ENVIRONMENT REQUIREMENTS . . . . . . . . . . . . . . . . . .72

9. PROCUREMENT, ACCESSIBILITY, AND COST OF OWNERSHIP . . . . . . . .75

9.1. PROCUREMENT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .75

9.1.1. Requirements Specification . . . . . . . . . . . . . . . . . . . .75

9.1.2. Evaluation Criteria . . . . . . . . . . . . . . . . . . . . . . . . . .76

9.1.3. Contract Type . . . . . . . . . . . . . . . . . . . . . . . . . . . . .76

9.1.4. Process Improvement . . . . . . . . . . . . . . . . . . . . . . . . .76

9.1.5. Other Considerations . . . . . . . . . . . . . . . . . . . . . . . .77

9.2. ACCESSIBILITY . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .77

9.3. COST OF OWNERSHIP . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .78

10. REFERENCES . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .81

APPENDIX A. PROGRAM COMMITTEE MEMBERS . . . . . . . . . . . . . . . . . .83

APPENDIX B. WORKING GROUP CHARTERS AND PARTICIPANTS . . . . . . . . .85

B.1. ENABLING TECHNOLOGIES . . . . . . . . . . . . . . . . . . . . . . . . . . .85

B.1.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .85

B.1.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .85

B.2. COTS-BASED ARCHITECTURES . . . . . . . . . . . . . . . . . . . . . . . . .86

B.2.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .86

B.2.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .86

B.3. CUSTOM ARCHITECTURES . . . . . . . . . . . . . . . . . . . . . . . . . . . .87

B.3.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .87

B.3.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .87

B.4. RUNTIME AND OPERATING SYSTEMS . . . . . . . . . . . . . . . . . . . . .88

B.4.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .88

B.4.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .88

B.5. PROGRAMMING ENVIRONMENTS AND TOOLS . . . . . . . . . . . . . .89

B.5.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .89

B.5.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .89

B.6. PERFORMANCE MODELING, METRICS, AND SPECIFICATIONS . . . . .90

B.6.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .90

B.6.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .90

B.7. APPLICATION-DRIVEN SYSTEM REQUIREMENTS . . . . . . . . . . . . . .91

B.7.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .91

B.7.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .91

B.8. PROCUREMENT, ACCESSIBILITY, AND COST OF OWNERSHIP . . . . . .92

B.8.1. Char ter . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .92

B.8.2. Par ticipants . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .92

APPENDIX C. LIST OF ATTENDEES . . . . . . . . . . . . . . . . . . . . . . . . . . . . .95

收起