任何一台完整的计算机系统，其构成都可以被划分为两个核心组成部分，即硬件系统与软件系统。
在计算机系统结构的指导下，各种计算机部件和设备相互协作，形成一个高度整合的整体，这个整体被称为计算机硬件系统。如果一台计算机没有安装任何软件，那么它就被称为裸机，它是计算机执行工作的物质基础。
根据冯·诺依曼提出的存储程序工作原理，计算机硬件系统被构建为运算器、控制器、存储器、输入设备、输出设备五个基本部分。
运算器包含了算术逻辑运算单元（ALU）和寄存器等关键组件。作为计算机中执行数据处理指令的核心器件，它负责对信息进行加工和运算（包括算术运算和逻辑运算），其运行速度直接影响着计算机的整体运算速度。
控制器是整个计算机系统的控制中心，它负责指挥计算机的各个部分协同工作，确保计算机能够按照预先设定的目标和步骤有序地进行操作和处理。控制器从内存储器中按顺序取出指令，对指令代码进行翻译，并向各个部件发出相应的指令，以完成指令所规定的操作。因此，控制器是协调和控制计算机各个部件工作的“神经中枢”。
控制器和运算器共同构成了中央处理器，它是计算机的核心组件。
存储器由成千上万个存储单元组成，每个存储单元通常可以存储一个字节，并且每个存储单元都有一个唯一的地址（存储单元地址）。
存储器的存取速度是衡量计算机系统性能的一个关键指标。
存储器可以分为内存和外存。内存是主存储器，而外存则是辅助存储器。
内存是CPU可以直接访问的存储器,它是计算机的工作存储器，正在运行的程序与数据都必须存放在内存中。它的特点是存取速度快、容量相对较小。
外存作为内存的后备和补充，不能直接与CPU交换数据。它的特点是存取速度相对较慢、容量较大、可靠性较高、断电后可以永久保存信息。
内存可以分为ROM、RAM、Cache。
◇只读存储器 ROM：在计算机工作过程中，用户只能从ROM中读取预先存储的数据，而无法进行修改，并且断电后仍能长期保存。ROM的容量相对较小，通常用于存储系统的基本输入输出系统BIOS等关键数据。
◇随机存储器 RAM：与ROM相比，RAM的容量要大得多，CPU既可以从RAM中读取信息，也可以向其写入信息，但是断电后所存的信息就会丢失。通常情况下，内存指的是RAM，目前常用的内存类型有SDRAM、DDR SDRAM、DDR2、DDR3等。
◇高速缓存 Cache：作为介于内存和CPU之间的高速、小容量存储器，它被称为高速缓冲存储器 Cache，通常简称为缓存。
输入设备的主要功能是将原始数据和处理这些数据的程序转换为计算机能够识别的二进制代码，并通过输入接口输入到计算机的存储器中，供CPU调用和处理。常见的输入设备包括：鼠标器、键盘、扫描仪、数码摄像机、条形码阅读器、数码相机等。
输出设备的主要功能是将计算机处理的数据、计算结果等内部信息转换成人们习惯接受的信息形式（如字符、图形、声音等），然后将其输出。最常用的输出设备有显示器、打印机和音箱等。
从信息的输入输出角度来看，磁盘驱动器和磁带机既可以被视为输入设备，也可以被视为输出设备。