从法律意义而言，它们最主要的一个区别在于是否具有行政主体的地位。国务院组成部门没有独立的行政主体地位（除非有法律,法规的授权.）国务院直属机构有着独立的行政主体资格.

中华人民共和国国务院组织法

第八条国务院各部、各委员会的设立、撤销或者合并，经总理提出，由全国人民代表大会决定；在全国人民代表大会闭会期间，由全国人民代表大会常务委员会决定。第九条各部设部长一人，副部长二至四人。各委员会设主任一人，副主任二至四人，委员五至十人。

各部、各委员会实行部长、主任负责制。各部部长、各委员会主任领导本部门的工作，召集和主持部务会议或者委员会会议、委务会议，签署上报国务院的重要请示、报告和下达的命令、指示。副部长、副主任协助部长、主任工作。

第十条各部、各委员会工作中的方针、政策、计划和重大行政措施，应向国务院请示报告，由国务院决定。根据法律和国务院的决定，主管部、委员会可以在本部门的权限内发布命令、指示和规章。

第十一条国务院可以根据工作需要和精简的原则，设立若干直属机构主管各项专门业务，设立若干办事机构协助总理办理专门事项。每个机构设负责人二至五人。

国务院行政机构设置和编制管理条例

第六条国务院行政机构根据职能分为国务院办公厅、国务院组成部门、国务院直属机构、国务院办事机构、国务院组成部门管理的国家行政机构和国务院议事协调机构。国务院办公厅协助国务院领导处理国务院日常工作。

国务院组成部门依法分别履行国务院基本的行政管理职能。国务院组成部门包括各部、各委员会、中国人民银行和审计署。

国务院直属机构主管国务院的某项专门业务，具有独立的行政管理职能。

也就是说，组成部门管的是国务院的基本事务，也就是国家的基本职能，比如说外交、国防、教育等等，而直属机构是国务院根据工作需要设立的，管理一些专门的业务。

另外，国务院组织法第二条国务院由总理、副总理、国务委员、各部部长、各委员会主任、审计长、秘书长组成。

国务院组成部门的老大是国务院组成人员，而直属机构的老大就不是，直属机构的法律地位低于各部委，其负责人也不是国务院的组成人员，他们的任免由国务院自行决定。

参考资料

华律网.华律网[引用时间2018-5-4]