并行性是每个CPU或多个CPU（在单个主板上）在多个内核上同时执行进程。

并发是指通过使用划分CPU时间（时间片）的调度算法在单个内核/CPU上实现并行性。进程是交错的。

单位：单个CPU中有1个或多个内核（几乎所有现代处理器）主板上有1个或多个CPU（想想老式服务器）一个应用程序就是一个程序（想想Chrome浏览器）一个程序可以有一个或多个进程（认为每个Chrome浏览器选项卡都是一个进程）一个进程可以有一个程序中的一个或多个线程（Chrome选项卡在一个线程中播放Youtube视频，另一个线程生成评论部分，另一个用于用户登录信息）因此，一个程序可以有一个或多个执行线程1个进程是线程+OS分配的内存资源（堆、寄存器、堆栈、类内存）

并发性=>在共享资源的重叠时间段内执行多个任务时（可能最大化资源利用率）。

并行=>当单个任务被划分为可以同时执行的多个简单的独立子任务时。

并发是编程术语。它是关于多个任务的，这些任务开始运行并以无特定顺序在重叠的时间段内完成。并发性由操作系统管理。当多个线程想要访问同一资源时，线程会遇到竞争条件问题。此外，它们还存在死锁，彼此等待，阻止自己运行。例如，你想一边吃饭一边说话。首先你需要吞下嘴里的食物或停止咀嚼，然后你可以说话（你在划水），说话后你可以再咬一口。

并行性是一个硬件术语。它是关于在具有多个计算资源（如多核处理器）的硬件上同时运行的多个任务。如果你能在咀嚼食物时说话，这将是平行的。平行的一个例子是，一个人可以同时唱歌和跳舞。

并发：如果一个处理器解决了两个或多个问题。

并行性：如果一个问题由多个处理器解决。

“并发”是指同时做任何事情。它们可能是不同的东西，也可能是相同的东西。尽管缺乏公认的答案，但这并不是关于“看起来是在同一时间”，而是真的在同一个时间。您需要多个CPU内核，或者在一个主机内使用共享内存，或者在不同主机上使用分布式内存，以运行并发代码。例如，同时并发运行的3个不同任务的流水线：Task-level-2必须等待Task-level-1完成的单元，而Task-level-3必须等待Task-level-2完成的工作单元。另一个例子是1-生产者与1-消费者的并发；或许多生产者和1-消费者；读者和作家；等

“并行”是指同时做相同的事情。它是并发的，但更重要的是，它是在同一时间发生的相同行为，最典型的是在不同的数据上。矩阵代数通常可以并行化，因为您有重复运行的相同操作：例如，可以使用相同的行为（和）在不同的列上同时计算矩阵的列和。在可用的处理器核之间划分（拆分）列是一种常见的策略，这样每个处理器核处理的工作量（列数）就接近相同。另一种拆分工作的方法是一袋一袋的任务，完成工作的员工会回到经理那里，经理会将工作分配出去，并动态地分配更多的工作，直到所有工作都完成。票务算法是另一种。

不仅仅是数字代码可以并行化。文件太频繁可以并行处理。在自然语言处理应用程序中，对于数百万个文档文件中的每一个，您可能需要计算文档中标记的数量。这是并行的，因为您正在计算每个文件的令牌，这是相同的行为。

换句话说，并行是指同时执行相同的行为。并发意味着同时，但不一定是相同的行为。并行是一种特殊类型的并发，在同一时间发生相同的事情。

例如，术语将包括原子指令、关键部分、互斥、旋转等待、信号量、监视器、屏障、消息传递、map reduce、心跳、铃声、票务算法、线程、MPI、OpenMP。

格雷戈里·安德鲁斯（Gregory Andrews）的著作是关于多线程、并行和分布式编程的顶级教科书。

并发可以涉及同时运行或不同时运行的任务（它们确实可以在单独的处理器/内核中运行，但也可以在“滴答声”中运行）。重要的是，并发总是指完成一项更大任务的一部分。所以基本上这是一些计算的一部分。你必须聪明地知道你可以同时做什么，不可以做什么，以及如何同步。

并行性意味着你只是同时做一些事情。他们不需要参与解决一个问题。例如，您的线程可以分别解决一个问题。当然，同步的东西也适用，但从不同的角度来看。