Mục lục:
Trí tuệ nhân tạo và máy móc có thể học là cách những thứ chúng ta sử dụng hàng ngày sẽ được cải thiện. Google và Android kết hợp với AI thông qua Google Assistant và machine learning, vì vậy điều quan trọng là phải biết cách thức hoạt động của thiết bị đầu cuối, cách chúng đến đó và loại thiết bị nào làm cho tất cả có thể. Và nó cũng rất tuyệt!
Những người sẽ xây dựng công nghệ này trong tương lai sẽ cần các công cụ để làm điều đó. Năm 2017, NVIDIA đang thực hiện phần của mình và Jetson TX2 là hiện thân của ý tưởng này. Các nhà phát triển cần phần cứng không chỉ có khả năng thực hiện tính toán và suy nghĩ (vâng, tôi sẽ nói vậy) rằng tương lai thông minh hơn của chúng ta sẽ cần, mà còn dễ sử dụng và triển khai.
AI ở rìa.
NVIDIA gọi điều này là "phân phối AI ở rìa" và đó là một mô tả thích hợp. TX2 là một siêu máy tính hoàn chỉnh. Nó có thể xử lý dữ liệu ngày của riêng mình tại địa điểm và thời gian nó thực sự xảy ra thay vì hàng ngàn dặm qua internet. Chúng tôi cho phép kết nối vì cách chúng tôi sử dụng ngay bây giờ, nhưng có rất nhiều trường hợp chờ đợi một chuyến đi vòng dữ liệu từ một máy móc thông minh chỉ là quá lâu để chờ đợi. Và một phần lớn đá cẩm thạch màu xanh này chúng ta đang sống không có kết nối với internet và sẽ không tồn tại trong một thời gian dài.
Một máy tính nhỏ có thể làm bất cứ thứ gì và xử lý tất cả dữ liệu mà nó thu thập chính là cách bạn giải quyết những vấn đề này. NVIDIA dường như đã đóng đinh nó ở đây.
Cái này là cái gì
Đây không phải là thứ bạn có thể tìm thấy ở Best Buy để sử dụng cho những việc bạn làm với điện thoại. Nó không chạy Android (nhưng chắc chắn sẽ không khó để sửa lỗi đó) và đó là thứ mà hầu hết chúng ta sẽ không mua. Nhưng nó vẫn là một phần rất quan trọng trong những điều chúng ta yêu thích.
Jetson TX2 là một công cụ phát triển. Jetson TX2 cũng là một mô-đun sẵn sàng để cung cấp năng lượng cho bất kỳ thiết bị dựa trên AI nào. Đó là một máy tính có kích thước của thẻ tín dụng với tất cả các đầu vào và đầu ra mà máy tính "thông thường" có. Khi bạn cắm mô-đun TX2 vào backboard được thiết kế đặc biệt của nó (đó là một phần của bộ công cụ phát triển), nó chủ yếu biến thành một PC dạng nhỏ thông thường hoàn chỉnh với tất cả các cổng và phích cắm mà máy tính để bàn của bạn cũng có.
Các nhà phát triển có thể sử dụng điều này để xây dựng các thiết bị xung quanh và thực sự sử dụng chính Jetson để chạy các bản demo và mô phỏng. Đó là một cỗ máy nhỏ có khả năng có thể thực hiện tất cả các phép tính mà một cái gì đó lớn hơn nhiều có thể làm trong khi sử dụng một lượng năng lượng rất nhỏ để làm điều đó. Các thông số kỹ thuật là ấn tượng.
- NVIDIA Parker series Tegra X2: GPU Pascal 256 lõi và hai lõi CPU Denver 64 bit được ghép nối với bốn CPU Cortex-A57 trong cấu hình HMP
- 8GB RAM LPDDR4 128 bit
- Bộ nhớ trong eGBC 5.1 32GB
- Wi-Fi 802.11b / g / n / ac 2x2
- Bluetooth 4.1
- USB 3.0 và USB 2.0
- mạng Ethernet tốc độ cao
- Khe cắm thẻ SD để lưu trữ ngoài
- SATA 2.0
- Hoàn thành PMIC đa kênh
- Đầu nối I / O tiêu chuẩn công nghiệp tốc độ cao và tốc độ thấp 400 pin
Thông số kỹ thuật tốt nhất là Jetson TX2 là pin để thay thế pin cho Jetson TX1 năm ngoái. Hãy để nó chìm vào một chút - các nhà phát triển đang sử dụng máy tính NVIDIA TX1 hiện có để cung cấp năng lượng cho bộ não đằng sau thiết bị của họ sẽ có thể tắt mọi thứ, kéo bo mạch cũ và đưa vào bảng mới. Phần mềm cho TX1 sẽ được cập nhật vào cùng phần mềm mà TX2 đang sử dụng, vì vậy nó sẽ thực sự là một sự thay thế. Nếu bạn đã từng thực hiện bất kỳ loại lĩnh vực hoặc nhà máy nào làm việc trên thiết bị tốn rất nhiều tiền khi nó có bất kỳ thời gian chết nào, bạn sẽ hiểu điều này quan trọng như thế nào. Trong khi thiết bị thế hệ tiếp theo đang được phát triển, nó sử dụng phần cứng hoạt động 100% với thế hệ hiện có.
Bí mật ở đây là thông qua các lõi GPU Pascal của NVIDIA. Lý do tương tự lõi Pascal được sử dụng trong các thẻ video rất cao cấp được thiết kế cho chơi game VR và 4K 3D là lý do tại sao chúng được sử dụng cho Jetson TX2. Lõi GPU là một cách hiệu quả hơn để crunch số. Chúng nhanh hơn và sử dụng ít năng lượng hơn.
Chén thánh của điện toán là trí tuệ nhân tạo (AI): xây dựng một cỗ máy rất thông minh, nó có thể tự học mà không cần chỉ dẫn rõ ràng. Học sâu là một thành phần quan trọng để đạt được AI hiện đại. Học sâu cho phép "bộ não" AI nhận thức thế giới xung quanh; Máy học và cuối cùng tự đưa ra quyết định. Hiện tại, người ta đã nhận ra rộng rãi trong giới học thuật và ngành công nghiệp rằng GPU là công nghệ tiên tiến trong việc đào tạo mạng lưới thần kinh sâu (DNN), do cả lợi thế về tốc độ và hiệu quả năng lượng so với các nền tảng dựa trên CPU truyền thống.
Máy tính GPU NVIDIA đã làm một số điều tuyệt vời. Họ điều khiển việc học sâu được sử dụng cho xe tự lái, dạy cho robot các kỹ năng vận động giống con người như đi bộ và nắm bắt, phân tích video ở tốc độ cao để cung cấp chú thích văn bản và thậm chí chơi Go. Và đánh bại đối thủ thực sự tốt của con người.
Các lõi GPU có thể thực hiện công việc tương tự bằng cách sử dụng ít năng lượng hơn như điện toán CPU truyền thống.
Thử nghiệm thực sự về AI và bộ não có thể điều khiển nó đang ở đường chân trời. Robot tự động và máy bay không người lái đang được phát triển cho các công việc như kiểm tra công nghiệp, các thiết bị y tế cầm tay có thể được sử dụng trong lĩnh vực này để giúp những người có nhu cầu rất cần thiết và thậm chí cả camera an ninh thông minh có thể phân tích những gì họ đang thấy và có hành động phù hợp sẽ sớm là thực tế. Những ý tưởng này cần điện toán có thể điều khiển AI với các thuật toán học sâu và khả năng tự phân tích dữ liệu mạng thần kinh được thu thập. Chúng không thể được gắn vào cáp và sẽ được sử dụng ở những nơi mà ngay cả Verizon không có vùng phủ sóng.
Bên cạnh việc mạnh mẽ, một máy tính được thiết kế nhỏ và di động phải có hiệu suất năng lượng cao. Thử nghiệm cho thấy (tệp.pdf) rằng máy tính dựa trên GPU NVIDIA có thể tương đương với CPU Intel i7 6700K và sử dụng 6 watt năng lượng so với 60. Đối với thiết bị không được kết nối với lưới điện, điều đó rất quan trọng.
Chúng tôi đã chạy một số điểm chuẩn bằng cách sử dụng AlexNet và GoogLeNet - Phần mềm kiểm tra phát hiện và phân loại đối tượng dựa trên CV và kết quả thật tuyệt vời. Ở chế độ Max-P (công suất cao), Jetson TX2 có thể phân tích trung bình 641 hình ảnh mỗi giây bằng Mạng AlexNet trong khi chỉ sử dụng 13 watt điện. Thử nghiệm GoogLeNet trung bình 278 hình ảnh mỗi giây trong khi sử dụng 14 watt năng lượng. Các thử nghiệm Max-Q (công suất thấp) đã ghi trung bình 480 hình ảnh mỗi giây trên AlexNet và 191 hình ảnh mỗi giây trên GoogLeNet trong khi chỉ sử dụng 7 watt năng lượng. Đây chỉ là khoảng hai lần những gì Jetson TX1 năm ngoái có thể cung cấp, và nó cũng khá tốt ở đó.
Khi bạn có thể xử lý thông tin nhanh và chính xác tại chỗ này, kết nối với đám mây không phải là yếu tố giới hạn mà nó từng có.
Trong phòng thí nghiệm
Jetson TX2 phải rất có khả năng trong lĩnh vực này. Đây là máy đầu tiên trong số các máy thế hệ tiếp theo sẽ học bằng cách thực hiện mà không cần kết nối với đám mây và nâng cấp đáng kể từ thiết bị hiện có. Nhưng nó cũng có các tính năng mà các nhà phát triển sẽ yêu thích.
Mô-đun tính toán có kích thước thẻ tín dụng có thể cắm vào một bảng vận chuyển hoàn chỉnh có sẵn như là một phần của bộ phát triển Jetson TX2. Bảng vận chuyển sử dụng 400 chân I / O trên mô-đun Jetson để cung cấp các kết nối máy tính để bàn tiêu chuẩn. Nhà phát triển phần mềm có thể sử dụng bàn phím và chuột USB tiêu chuẩn, màn hình tiêu chuẩn và Jetson TX2 để tạo môi trường phát triển hoàn chỉnh.
Chạy trên hệ điều hành Linux4Tegra dựa trên Ubuntu 16.04, tất cả các công cụ bạn có thể cần để phát triển và gỡ lỗi các ứng dụng AI học sâu đều được đưa vào như một phần của phần mềm JetPack của NVIDIA. Các nhà phát triển có thể tải xuống gói từ Khu vực dành cho nhà phát triển của NVIDIA cũng như theo dõi các hướng dẫn và kiến thức cộng đồng để xem Jetson có thể làm gì sau đó bắt đầu thực hiện các ý tưởng của riêng họ. Phần mềm đi kèm trong JetPack được cấu hình sẵn để chạy được tối ưu hóa trên hệ thống xử lý TX2:
- cuDNN - một thư viện nguyên thủy được tăng tốc GPU cho các mạng thần kinh sâu.
- NVIDIA VisionWorks là gói phát triển phần mềm cho Computer Vision (CV) và xử lý hình ảnh.
- CUDA Toolkit - môi trường phát triển toàn diện cho các nhà phát triển C và C ++ xây dựng các ứng dụng tăng tốc GPU.
- TensorRT - thời gian chạy suy luận học tập sâu hiệu suất cao để phân loại hình ảnh, phân đoạn và mạng lưới thần kinh phát hiện đối tượng.
- NVIDIA Nsight Eclipse - Một IDE Eclipse đầy đủ tính năng và tùy chỉnh để phát triển, gỡ lỗi và định hình các ứng dụng CUDA-C.
- Tegra System Profiler và Tegra Graphics Debugger - công cụ để lập hồ sơ và các ứng dụng mẫu bằng OpenGL.
- Tài sản thế chấp và tài sản cần thiết để phát triển và thiết kế phần cứng bằng NVIDIA Jetson TX2.
Sử dụng cùng một nền tảng để xây dựng và gỡ lỗi bất kỳ ứng dụng nào là điều bắt buộc đối với mọi thứ phức tạp và phức tạp. Đó là một trong những cách mà các nhà phát triển có thể đơn giản hóa quy trình và bất cứ điều gì có thể giúp làm cho mọi thứ dễ dàng hơn giúp các nhà phát triển hạnh phúc hơn. Mặc dù Jetson TX2 có thể không được thiết kế như là máy tính phát triển và xây dựng duy nhất mà bất kỳ nhóm nào sẽ sử dụng, biết rằng nó có khả năng là một lợi ích cho việc cài đặt và làm việc tại hiện trường. Việc thực hiện các điều chỉnh và thay đổi nhỏ có thể được thực hiện trên Edge giống như cách xử lý mà không gửi dữ liệu trở lại ngân hàng máy tính khác để xử lý và trả lại.
Thiết bị có thể được thiết kế bằng cách sử dụng các tài sản và bản vẽ phần cứng có sẵn để không chỉ giảm độ phức tạp mà còn cho phép giao diện dễ dàng sử dụng các thiết bị ngoại vi và phần mềm có sẵn. Được trang bị máy tính xách tay và cáp USB, một kỹ sư hoặc công nghệ hiện trường có mọi thứ cần thiết để xây dựng lại từ đầu nếu cần thiết.
Phần mềm NVIDIA Jetpack có nghĩa là các nhà phát triển có thể tập trung vào công việc của họ, không thiết lập môi trường xây dựng.
Ngay cả việc cài đặt Jetpack của NVIDIA cũng được sắp xếp hợp lý. Người đánh giá được cung cấp một phiên bản cập nhật để cài đặt và làm theo một số hướng dẫn đơn giản thông qua GUI thông minh đã xây dựng lại hoàn toàn tất cả phần mềm hoàn thành chỉ với vài bước và một tách cà phê. Một lần nữa, chúng ta thấy NVIDIA làm mọi thứ dễ dàng hơn để các nhà phát triển có thể tập trung vào công việc của họ hơn là duy trì môi trường xây dựng.
Sau vài ngày thiết lập mọi thứ và thử nghiệm mọi thứ, tôi đã rất ấn tượng với những gì NVIDIA đang cung cấp ở đây. Jetson TX1 đầu tiên là một sản phẩm tuyệt vời đáp ứng nhu cầu phát triển nhanh bằng cách sử dụng lõi GPU để thực hiện các công việc nặng nề cho các ứng dụng mạng thần kinh học sâu. Trong một thời gian rất ngắn, NVIDIA đã nâng tầm với một người kế nhiệm có thể phá vỡ sự phụ thuộc vào đám mây bằng cách sử dụng các công cụ và kỹ thuật phát triển quen thuộc tương tự.
Công nghệ của tương lai sẽ kích thích và truyền cảm hứng cho tất cả chúng ta. Các sản phẩm như Jetson TX2 là những gì sẽ làm cho tương lai đó có thể. Bộ công cụ dành cho nhà phát triển NVIDIA Jetson TX2 có giá $ 599 cho các đơn đặt hàng bán lẻ và $ 299 cho sinh viên.
Xem tại cổng thông tin Nhà phát triển nhúng NVIDIA
